Marvell bringt die zweite Generation des CXL-Speicher-Expanders auf den Markt, mit Unterstützung für bis zu 9TB DDR4-Speicher

Marvell erweitert seine Speicherlösungen mit höherer Kapazität und Bandbreite, um den wachsenden Bedarf von Upgrades in der AI-Infrastruktur für Inferenz zu bedienen.

Laut Bloomberg hat Marvell am 12. Oktober offiziell die zweite Generation der Structera X 3406 und 3506 CXL Speicherexpander vorgestellt. Das Unternehmen bezeichnet sie als die ersten Speicherexpander der Branche mit sechs Kanälen und CXL 3.2; jeder Controller unterstützt bis zu 9TB DDR4 oder 6TB DDR5 Speicher, wobei die Anzahl der Speicherkanäle gegenüber der vorherigen Generation um 50% erhöht wurde. Die beiden Produkte sollen ab dem ersten Quartal 2027 Muster an Kunden ausliefern.

Mit dieser Neuveröffentlichung sollen die zunehmend auffälligen Speicherengpässe bei AI-Inferenz-Workloads adressiert werden. Da Large Language Models (LLM) wachsen, die Kontextfenster länger werden und der Bedarf an KV-Caches schnell steigt, geraten traditionelle Serverarchitekturen bei Speichergröße und Bandbreite zunehmend unter Druck; der Speicher wird zum entscheidenden Faktor für die Leistung und Effizienz der AI-Infrastruktur.

AMD, Arm, Alibaba, Samsung und SK Hynix haben ihre Unterstützung für das neue Produkt und die zugehörige Kooperation im Ökosystem bekundet.

Kerntechnologisches Upgrade: Mehr Kanäle, höhere Kapazitäten

Structera X 3406 und 3506 bieten gegenüber der vorherigen Generation Verbesserungen bei Speicherkanälen, Erweiterungskapazität und Kompressionsleistung.

Beide Produkte unterstützen sechs Speicherkanäle. Der 3406 bietet 18 DDR4 RDIMM-Steckplätze mit bis zu 9TB Kapazität, während der 3506 12 DDR5 RDIMM-Steckplätze mit bis zu 6TB Kapazität unterstützt. Beim Host-Interconnect unterstützen beide Produkte die gemeinsame Nutzung von Speicherressourcen durch bis zu vier Hosts; die Interconnect-Bandbreite kann bis zu 256 GB/s erreichen und nutzt eine PCIe 6.0 x16 Schnittstelle.

Für die Kompressionsleistung verfügen die neuen Produkte über eine integrierte LZ4-Kompressions-Engine, deren Kompressions- und Dekompressionsthroughput bis zu 250 GB/s beträgt – fünfmal mehr als die vorherige Generation – und die effektive Speicherkapazität auf das Zwei- bis Dreifache des Originals erweitert.

Marvell gibt an, dass im Inferenz-Szenario mit Large Language Models die neuen Produkte die TTFT (Time to First Token) um 40% bis 50% bei gleicher Kontextlänge verkürzen können; im Deep Learning Recommendation Model (DLRM) Szenario kann die Abfrageleistung pro Controller bis auf das Doppelte gesteigert werden, und die effektive Embedding-Table-Kapazität auf das Zwei- bis Dreifache des ursprünglichen Werts.

Gezielt für Hyperscale-Rechenzentren: Ausweitung des Ökosystems

Marvell teilt mit, dass die zweite Generation der Structera X auf dem Software-Stack und der Ökosystemintegration der ersten Generation (2404/2504) basiert, die bereits an Hyperscale-Rechenzentrumskunden ausgeliefert wurde, um die Einführung der neuen Produkte zu beschleunigen.

Mehrere Branchenpartner haben öffentlich ihre Unterstützung bekundet. AMD Corporate Vice President Raghu Nambiar erklärte, dass die Zusammenarbeit auf der Leistungsfähigkeit und Skalierbarkeit der EPYC-Prozessoren basiert und Unternehmen hilft, die Speicherkapazität zu erweitern und die Ressourcennutzung angesichts steigender AI- und datenintensiver Anforderungen zu optimieren.

Eddie Ramirez, Vice President Go-to-Market Cloud AI bei Arm, betonte, dass Structera X CXL 3.2, Speichererweiterung und Kompressionsfähigkeiten in das Arm-Ökosystem einbringt und Hyperscale-Rechenzentren mehr Optionen für die effiziente Ausführung komplexer AI-Workloads bietet.

Jangseok Choi, Vice President Memory Product Planning bei Samsung Electronics, und Uksong Kang, Leiter Next Generation Product Planning und Enablement bei SK Hynix, erklärten, dass sie jeweils die Validierung der Structera-Produkte mit ihren DDR-Speichern abgeschlossen haben.

Vervollständigung des CXL-Portfolios: Aufbau von Speicher-Pooling und disaggregierten Architekturen

Will Chu, Executive Vice President und General Manager für kundenspezifische Cloud-Lösungen bei Marvell, betonte, dass das Unternehmen als einziger Anbieter ein vollständiges End-to-End-CXL-Produktportfolio offeriert, welches mehrere Ebenen abdeckt: Structera X für Speichererweiterung, Structera A für Near-Memory Acceleration und PFMA (Photonic Fabric™ Memory Appliance) für CXL-Speicher-Sharing auf Rack-Ebene – dies deckt verschiedene Anwendungsszenarien von direkter Speichererweiterung bis zu Pooling und Disaggregation ab.

Jim Handy, Geschäftsführer von Objective Analysis, erläuterte, dass CXL zunehmend in AI-Systemen eingesetzt wird und die Eigenschaften hoher Bandbreite und großer Kapazität signifikante Vorteile bringen können. Er fügte hinzu, dass IT-Manager angesichts knapper Speicherversorgung und hoher Preise erwägen, DDR4-Module in DDR5-Systemen mittels CXL weiterzuverwenden, um Kosten zu senken; Controller mit Kompressionsfunktionen könnten die Attraktivität solcher Lösungen weiter erhöhen.

Structera X 3406 und 3506 werden vom 12. bis 15. Oktober auf dem OCP Global Summit in San Jose, Kalifornien, vorgestellt; Muster der endgültigen Produkte sind ab dem ersten Quartal 2027 verfügbar.