Flash-Speicher Wie der KI-Boom das Hardware-Design von SSDs verändert

Der immense Rechenhunger moderner KI-Anwendungen treibt nicht nur die Entwicklung von GPUs voran, sondern zwingt auch die Speicherindustrie zu einem architektonischen Umdenken. Neue Formfaktoren, extreme Packdichten und unkonventionelle Kühlkonzepte werden zum Standard.

Wer heute den Aufbau von KI-Rechenzentren oder leistungsstarken Edge-Infrastrukturen plant, stößt schnell an harte physikalische Grenzen. Platzbedarf, thermische Belastung und vor allem die verfügbare elektrische Leistung limitieren den Ausbau massiv. In diesem Umfeld spielt das Hardware-Design von Speichermedien eine unerwartet zentrale Rolle, wie Scott Shadley, Director of Leadership Narrative & Evangelist beim Speicherhersteller Solidigm, Mitte Juni auf dem Storage Event „Technology Live“ von A3 Communication in München verdeutlichte. Bei Solidigm handelt es sich um den Spin-off von Intels Speichersparte. SK Hynix hatte diese aufgekauft, um 2021 daraus ein eigenes US-Tochterunternehmen zu formen. 

Neue Leitwährungen: Energieeffizienz und Quality of Service

Historisch gesehen war der Preis pro Speicherkapazität die wichtigste Kennzahl bei der Beschaffung. Diese Zeiten sind im High-Performance-Computing vorbei. „Früher war es der Dollar pro Gigabyte. Darum kümmert sich heute eigentlich niemand mehr“, erklärt Shadley. „Alles wird heute in erster Linie von einer Stromverbrauchszahl diktiert.“

Bildergalerie

Bildergalerie mit 10 Bildern

In Automatisierungs- und KI-Infrastrukturen limitiert der verfügbare Strom am Standort die Anzahl der nutzbaren Rechenbeschleuniger (GPUs). Jedes Watt, das beim Speicher eingespart wird, steht potenziell für zusätzliche Rechenleistung zur Verfügung. Die Lösung liegt in hochverdichteten Solid-State-Drives (SSDs) mit Kapazitäten von bis zu 122 Terabyte. Solidigm rechnet vor, dass ein konventioneller Storage-Cluster aus neun Racks mit 54 kW Leistungsaufnahme durch den Einsatz von High-Density-SSDs auf ein einziges Rack mit nur 1,7 kW komprimiert werden kann.

Neben dem Stromverbrauch wandelt sich auch die Leistungsbewertung grundlegend. Früher prahlten Hersteller mit maximalen IOPS-Werten (Input/Output Operations Per Second). Für KI-Architekturen ist das jedoch nicht mehr die Leitmetrik. Entscheidend ist heute die Vorhersagbarkeit, die sogenannte Quality of Service (QoS). SSDs müssen garantieren, dass Daten mit extrem hoher Zuverlässigkeit (99,999 Prozent) in einem exakten, minimalen Zeitfenster geliefert werden. Wenn Daten in unregelmäßigen Wellen ankommen, wartet die GPU auf den Datensatz. Diese immens teure „Idle Time“ der Prozessoren gilt es durch einen flachen, kontinuierlichen Datenstrom zwingend zu vermeiden.

„Wegwerf-Daten“ und das Ende der Verschleiß-Sorge

Diese Notwendigkeit eines schnellen, kontinuierlichen Datenstroms bricht die klassische Speicherpyramide auf. Die Industrie definiert derzeit eine komplett neue Zwischenschicht im Server-Rack – oft als „G3.5-Schicht“ bezeichnet. Hier geht es nicht um klassischen, persistenten Langzeitspeicher. Diese SSD-Schicht dient ausschließlich dazu, gewaltige Datenblöcke für die KI-Inferenz (etwa den KV-Cache von Large Language Models) rasend schnell lesen und schreiben zu können. Da die Persistenz hier zweitrangig ist, spricht man von flüchtigen „Wegwerf-Daten“ (Ephemeral Storage). Geht etwas verloren, baut das System den Cache einfach neu auf.

Wer bei solchen Dauer-Schreiblasten auf Flash-Speicher blickt, hat als Hardware-Entwickler sofort das Thema Lebensdauer aufgrund begrenzter Schreibzyklen im Kopf. Doch hier liefert die Branche eine überraschende Erkenntnis: Obwohl für diese Hyper-Density-Speicher aus Kostengründen auf QLC-NAND (Quad-Level Cell) gesetzt wird, ist die Flash-Abnutzung mathematisch irrelevant geworden. Shadley rechnet vor, dass man Laufwerke mit 122 Terabyte innerhalb eines typischen Server-Lebenszyklus von fünf Jahren schlichtweg nicht „kaputtschreiben“ kann. Die heutigen Schnittstellen können die Datenmengen gar nicht schnell genug anliefern, um alle Zellen in dieser Zeit an ihr Limit zu überschreiben.

Das Ende alter Bauformen und die Herausforderung der Signalintegrität

Um diese enormen Packdichten und die damit verbundenen thermischen Anforderungen auf Leiterplatten-Ebene zu erfüllen, muss sich die Mechanik der SSDs radikal ändern. Altbekannte Standards haben ausgedient. „Der U.2-Formfaktor wurde aus einem 2,5-Zoll-Festplattengehäuse abgeleitet“, rekapituliert Shadley. „Das ist das letzte auf Festplatten basierende SSD-Produkt, das heute noch existiert.“

Zukünftige Designs orientieren sich ausschließlich an den Erfordernissen der Flash-Technologie. Die Industrie schwenkt daher auf dedizierte Formfaktoren wie E1.S und E3.S um. Diese bieten Entwicklern mehr Platz auf der Platine für Bauteile und sind flacher, was eine effizientere Kühlung und eine höhere Packdichte im Server ermöglicht.

Ein weiterer technischer Treiber für diesen Wechsel ist die Signalintegrität bei steigenden Datenraten. Die kommenden Generationen des PCI-Express-Standards dulden keine Kompromisse bei den physikalischen Steckverbindern. „Wenn wir insbesondere zu PCIe Gen 6 und Gen 7 kommen, brauchen wir aufgrund der Signalintegrität einen Edge-Connector, keinen physischen Standardsteckverbinder. Deshalb wird U.2 bei PCIe Gen 6 allmählich verschwinden“, so Shadley.

Kühlkonzepte am Limit: Immersion Cooling in der Praxis

Eine der größten Herausforderungen bleibt das Thermomanagement. Klassische Luftkühlung in Serverräumen bedeutet Ohrenbetäubung durch massiv hochdrehende Lüfter und stößt an ihre physikalischen Grenzen. Zudem verschwendet die klassische Luftkühlung über Chiller-Systeme im Vergleich zur Flüssigkeitskühlung enorme Mengen an Wasser.

Die Industrie bewegt sich daher in Richtung Cold-Plate- und Flüssigkeitskühlung. Da Speicherlaufwerke in der Regel Hot-Plug-fähig, also im laufenden Betrieb austauschbar bleiben müssen, erfordert dies spezielle Konstruktionen. Für lüfterlose Serverumgebungen wurden daher bereits flüssigkeitsgekühlte SSD-Lösungen entwickelt, die direkt an die Kühlkreisläufe angebunden werden können.

Der nächste konsequente Schritt ist das „Immersion Cooling“, also die vollständige Tauchkühlung der Elektronik in nichtleitenden Flüssigkeiten (z.B. speziellen Ölen). Während die Halbleiterkomponenten dieses Tauchbad heute problemlos überstehen, lauern die Tücken für die Ingenieure oft in unerwarteten Details.

Shadley teilte hierzu eine Weisheit aus dem Laboralltag: „Eines der interessantesten Dinge, auf die wir in der Tauchkühlungs-Umgebung stießen, hatte nichts mit den Komponenten oder den funktionalen Aspekten des Laufwerks zu tun. Es ging tatsächlich darum, das Etikett auf dem Laufwerk zu behalten. Anscheinend löst diese Flüssigkeit den Kleber sehr gut auf.“ Die unkonventionelle, aber pragmatische Lösung der Hardware-Entwickler: Transparenter Nagellack zur Fixierung der Beschriftung verhinderte, dass die Etiketten im Kühlbad abfielen.

Bald wassergekühlt für Edge-IT?

Diese tiefgreifenden architektonischen Veränderungen sind keineswegs auf gigantische Rechenzentren der Hyperscaler beschränkt. Gerade kompakte, Flash-optimierte Formfaktoren und lüfterlose oder flüssigkeitsbasierte Kühlkonzepte sind exakt die Bausteine, die für raue Edge-Inferencing-Umgebungen benötigt werden. Wenn KI-Modelle in Zukunft direkt an Telekommunikationsmasten, in der industriellen Fertigung oder in vernetzten Automatisierungsanlagen berechnet werden, sind kompakte Bauweise, maximale Energieeffizienz und Ausfallsicherheit unter schwierigen klimatischen Bedingungen entscheidend. Die Tage des Festplatten-Gehäuses sind damit auch in der Industrie-Hardware gezählt. (mc)

(ID:50886000)