Samsung Electronics hat kürzlich eine Strategie für die nächste Generation von Arbeitsspeicher- und Speichertechnologien für KI-Infrastruktur vorgestellt, die darauf abzielt, die Gesamtleistung von KI-Systemen weiter zu steigern. Auf dem OCP Global Summit in San Francisco, USA, Samsung hat drei zentrale Technologierichtungen herausgearbeitet: Hochleistungsspeicher, Speichererweiterungstechnologie auf Basis von Compute Express Link (CXL), sowie Datenverwaltungslösungen auf Basis der neuen Generation von Solid-State-Drives (SSD). Diese drei Richtungen zielen jeweils auf die Geschwindigkeit des Arbeitsspeichers selbst, die horizontale Erweiterung der Speicherkapazität sowie die Organisation und den Abruf von Daten in der Speicherebene ab und bilden Samsungs Gesamteinschätzung der nächsten Phase der KI-Infrastruktur.
Laut Samsung hat der Vizepräsident und Leiter des Application Engineering Teams, Shim Ho-jun, auf dem Summit eine entsprechende Rede gehalten. Er erklärte, dass mit der stetigen Vergrößerung von KI-Modellen auch die für die Inferenz benötigte Datenmenge sowie der Bedarf an Key-Value (KV) Cache synchron ansteigen. Bei der Steigerung der Leistung von KI-Systemen werden neben der Speicherbandbreite auch die Erweiterung der Speicherkapazität und Datenspeichertechnologien immer wichtiger. Mit anderen Worten: Allein die Erhöhung der Bandbreite reicht nicht mehr aus; die Frage, ob das System diese Daten aufnehmen und effizient orchestrieren kann, wird zum neuen Flaschenhals.
Samsung setzt auf Optimierung von Design und technischer Validierung von KI-Systemen
Shim Ho-jun fügte hinzu, dass Samsung bestrebt ist, bereits in der frühen Entwicklungsphase die Co-Design- und technischen Validierungsprozesse mit globalen Kunden und Partnern zu intensivieren, um das gesamte KI-System zu optimieren. Das bedeutet, dass Samsung den Kooperationszeitpunkt vorverlegen möchte, um gemeinsam mit Ökosystempartnern die Designrichtung festzulegen, bevor die Lösung finalisiert ist, anstatt erst nach der Produktreife Anpassungen vorzunehmen.
Als eines der Demonstrationssegmente dieses Summits plant Samsung zudem, gemeinsam mit AMD eine auf CXL basierende Speichererweiterungslösung vorzustellen, um die Beschränkungen bestehender Systeme in puncto Speicherkapazität zu adressieren. CXL ist ein offener Standard für Hochgeschwindigkeits-Interconnects, der flexiblere Verbindungen zwischen Prozessoren, Speicher und Speichergeräten ermöglicht und so die verfügbare Speicherkapazität erweitert, ohne allein auf Mainboard-Steckplätze angewiesen zu sein. Für sich rasch ausweitende KI-Inferenz-Cluster bietet ein solcher Ansatz die Möglichkeit, die Systemkapazität auch jenseits der Bandbreite weiter zu steigern.
Element Spezifikation Speicherkapazität Hochleistungsspeicher Speichertechnologie Basierend auf Compute Express Link (CXL)
Interessenhinweis: Dieser Artikel enthält Partner-Links zu Produkten; wenn Sie über diese Links einkaufen, kann TechRitual eine Provision erhalten, dies beeinflusst jedoch nicht die Produktbewertungen und -empfehlungen. Details finden Sie in der Datenschutzrichtlinie.