CXL®-Speichererweiterungslösungen

CXL® (Compute Express Link®) ist ein Industriestandard, ein offenes Protokoll zur schnellen und latenzarmen Kommunikation zwischen Hostbeschleunigern – einer Hardware, die zunehmend bei verstärkt eingesetzten Anwendungen wie künstlicher Intelligenz (KI) und maschinellem Lernen (ML) benötigt wird.

SMART Modular und weitere Branchenführer, darunter Alibaba, Cisco, Dell EMC, Facebook, Google, Hewlett Packard Enterprise, Intel Corporation und Microsoft bilden eine Gruppe zur Entwicklung offener Industriestandards und technischer Spezifikationen, die herausragende Leistung bei kommenden Nutzungsmodellen ermöglichen, dabei gleichzeitig ein offenes Ökosystem für Datencenterbeschleuniger und weitere Highspeed-Erweiterungen schaffen. SMART nennt ihre CXL-Version CMM-E3S.

CXL-Protokolle

Der CXL-Standard definiert drei Protokolle, die dynamisch miteinander gemultiplext werden, bevor sie über einen Standard-PCIe-5.0-PHY mit 32 GT/s transportiert werden:

• Native Breiten: x16, x8, x4; x16 partitionierbar: x16, 2x8, 4x4, x8 + 2x4; x8 partitionierbar: x8, 2x4; reduzierte Breiten: x2, x1.

• Datenrate: 32 GT/s.

• Reduzierte Unterstützung: 8 GT/s und 16 GT/s (128b/130b).

• Unabhängige Kohärenzmodelle wie CXL.cache, CXL.mem zur Unterstützung vielfältiger Einsatzszenarien bei IT-Datenablage, Netzwerkbeschleunigung und Permanentspeicher.

• Plug-and-Play: es kann entweder ein(e) PCIe- oder ein(e) CXL-Karte/-Gerät eingesteckt werden.

• Verwenden Sie PCIe® PHY, Kanal, Schaltkreis, Retimer usw. wieder.

CXL ist so konzipiert, dass es drei Typen primärer Geräte unterstützt:

Beispiel: Typ-1 CXL-Gerät

SMART-Netzwerkadapter oder Videobeschleuniger, die spezielle Algorithmusfunktionen wie Videotranscodierung von Daten im Hostspeicher nutzen.

Beispiel: Typ-2 CXL-Gerät

FPGA- oder CPU-basierte Beschleuniger mit integriertem Speicher (wie HBM und DDR).

Beispiel: Typ-3 CXL-Gerät

Permanentspeicher oder IT-Speichergeräte am CXL-Bus. Solche Geräte können nicht eigenständig auf den Hostspeicher zugreifen.

CXL-Speichererweiterung

SMART Modular entwickelt CXL-Typ-3- (CXL.mem) Arbeitsspeicherprodukte zur Adressierung des industriellen Bedarfs an mehr Arbeitsspeicher je Prozessorkern. Dieser Ansatz ermöglicht eine flexiblere und besser skalierbare Arbeitsspeicherarchitektur, bei der Arbeitsspeichergeräte nach Bedarf hinzugefügt oder entfernt werden können, ohne dass das gesamte System ersetzt oder aufgerüstet werden muss.

Geringere Gesamtbetriebskosten (TCO)

SMART Modular CXL AIC ist eine wirtschaftlichere Wahl zur Erweiterung des Arbeitsspeichers unter aktuellen Systemarchitekturen. Anstatt acht 128-GB-DDR5-RDIMMs zu kaufen, können Kunden eine gleichwertige Speicherkapazität erreichen, indem sie 8 64-GB-DDR5-RDIMMs in Verbindung mit 8-DIMM-CXL-Add-In-Karten (AICs) verwenden. Diese Konfiguration führt zu einer bemerkenswerten Kostenreduzierung in Höhe von 50 %.

CXL-Arbeitsspeicher-Pooling

CXL 2.0 unterstützt Schaltung zur Aktvierung des Arbeitsspeicher-Pooling für effiziente Arbeitsspeicherzuweisung. Bei 2.0 kann das Gerät als Multiple Logical Devices (MLD) partitioniert werden. Dadurch können bis zu 16 Hosts gleichzeitig auf verschiedene Teile des Arbeitsspeichers zugreifen.

Beispielsweise kann Host 1 (H1) die Hälfte des Arbeitsspeichers in Gerät 1 (D1) und ein Viertel des Arbeitsspeichers in D2 verwenden, um die Arbeitsspeicheranforderungen seiner Arbeitslast fein an der verfügbaren Kapazität im Arbeitsspeicherpool auszurichten. Die Restkapazität in D1 und D2 kann von H2 bis H# genutzt werden.

Key Features for CXL AIC:

• Available in type 3 PCIe Gen5 Full Height, Half Length (FHHL) PCIe form factor.

• The 4-DIMM AIC (CXA-4F1W) accommodates four DDR5 RDIMMs with a maximum of 2TB of memory capacity when using 512GB RDIMMs, and the 8-DIMM AIC (CXA-8F2W) accommodates eight DDR5 RDIMMs with a maximum of 4TB of memory capacity.

• The 4-DIMM AIC uses a single CXL controller implementing one x16 CXL port while the 8-DIMM AIC uses two CXL controllers to implement two x8 ports, both resulting in a total bandwidth of 64GB/s.

• The CXL controllers support “Reliability, Availability, and Serviceability” (RAS) features, and advanced analytics.

• Both offer enhanced security features with in-band or side band (SMBus) monitoring capability.

• To accelerate memory processing, these add-in cards are compatible with SMART’s Zefr™ ZDIMMs™.


Key Features for CMM-E3S:

• Available in EDSFF E3.S 2T (2U Short) form factor

• CXL-2.0 compatible with PCIe Gen5 speeds running at 32GT/s

• Available in 64GB and 96GB densities

• Supports Reliability, Availability and Serviceability (RAS) features added in CXL 2.0

• Powered by only 12V supply from EDSFF compatible edge interface (SFF-TA-1009)

• Supports sideband interfaces for real-time debug, management and system update, enabling out-of-band management of the module

• Supports additional security features to protect data from side channel attacks

Beschleunigte KI-/ML-Arbeitslasten
Große In-Memory-Datenbanken
Online-Transaktionsverarbeitung (OLTP)
CXA-4F1W

CXA-4F1W

CXA-8F2W

CXA-8F2W

CMM-E3S

CMM-E3S

[SMART] WP014 CXL for Memory Expansion White Paper 04/23/2024
[SMART] CXL Memory Form Factors_Technical Brief 04/22/2024
[SMART] Memory Solutions with CXL [OCP Global Summit 2023] 10/13/2023
[SMART] CXL Memory Disaggregation and Tiering - Lessons from Storage [SDC Sep 2023] 10/05/2023
[Advanced Memory] SMART CMM-E3S CXL Standard Memory Module_Product Brief 04/23/2024
[SMART] WP011 Introduction to CXL Memory Modules White Paper 01/04/2024