Wärmemanagement für HBM-Speicher iHBM kühlt HBM-Speicher direkt im Package

Anbieter zum Thema

SK hynix Deutschland GmbH

MicroConsult Academy GmbH

Bicker Elektronik GmbH

CTX Thermal Solutions GmbH

Mit iHBM integriert SK Hynix Kühlelemente direkt in den D2D-PHY-Bereich zwischen HBM-Basis-Die und KI-Beschleuniger. Das soll den thermischen Widerstand um 30 Prozent reduzieren und auch unter hoher Last einen stabileren Betrieb ermöglichen.

HBM steht für High Bandwidth Memory und ist gerade im Zusammenhang mit KI-Beschleunigern, Rechenzentren und High-Performance-Computing besonders gefragt. Dabei handelt es sich um gestapelten Hochleistungsspeicher, der über sehr breite Datenpfade eng mit Prozessoren, GPUs oder KI-Beschleunigern verbunden wird. Dadurch erreicht HBM deutlich höhere Speicherbandbreiten als klassische DRAM-Module, benötigt aber auch aufwendiges Advanced Packaging.

Zum Einsatz kommt HBM vor allem dort, wo enorme Datenmengen mit möglichst geringer Latenz zwischen Recheneinheit und Speicher bewegt werden müssen. Genau diese Nähe zwischen Speicher und Prozessor bringt jedoch eine Herausforderung mit sich: Das Wärmemanagement wird bei steigenden Datenraten, höheren Stapelhöhen und wachsender Leistungsdichte zunehmend zum Systemproblem.

Diesem Problem will sich der südkoreanische Hersteller SK Hynix mit iHBM widmen. Dabei handelt es sich um eine neue Thermomanagement-Lösung für High Bandwidth Memory, die am 26. Mai 2026 vorgestellt wurde. Der Ansatz unterscheidet sich von bisherigen HBM-Kühlkonzepten: Während konventionelle Produkte Wärme indirekt über den Core Die ableiten, platziert iHBM sogenannte Integrated Cooling Elements, kurz ICEs, direkt im Die-to-Die Physical Layer, dem D2D PHY.

Diese Schicht bildet die Hochgeschwindigkeitsschnittstelle zwischen HBM-Basis-Die und KI-Prozessor beziehungsweise KI-Beschleuniger. Dort konzentriert sich Wärme besonders stark, weil an dieser Schnittstelle hohe Datenraten, Schaltverluste, Leckströme und elektrischer Widerstand auf engem Raum zusammenkommen.

Die ICEs bestehen aus einem elektrisch isolierenden, aber thermisch leitfähigen siliziumbasierten Material. Sie schaffen einen zusätzlichen Wärmeableitpfad direkt an der Entstehungsquelle, statt die Wärme auf Umwegen durch umliegende Strukturen abzuführen. Laut SK Hynix reduziert iHBM den thermischen Widerstand dadurch um 30 Prozent.

Warum Wärme bei HBM ein Systemproblem ist

HBM erreicht seine hohe Bandbreite durch das vertikale Stapeln mehrerer DRAM-Dies. Um KI-Prozessoren ohne Flaschenhals zu versorgen, wird der Speicher eng benachbart zur GPU oder zum KI-Beschleuniger auf demselben Package platziert und über einen Hochgeschwindigkeits-Silizium-Interposer angebunden.

Diese räumliche Nähe ist technisch notwendig, verschärft aber die thermischen Anforderungen. Während der KI-Prozessor selbst große Wärmemengen erzeugt, muss der HBM-Speicher kontinuierlich große Datenmengen bereitstellen. Im D2D PHY entstehen dabei zusätzliche Verlustleistungen unmittelbar an der Verbindung zwischen Speicher und Prozessor.

Steigen die Temperaturen zu stark an, kann das die Stabilität des Systems beeinträchtigen. Moderne Rechen- und Speicherarchitekturen müssen dann Taktfrequenzen oder Spannungen reduzieren, um Schäden zu verhindern. Für KI-Rechenzentren und HPC-Systeme ist das problematisch, weil die verfügbare Rechenleistung dadurch nicht nur von der Chiparchitektur, sondern auch von der thermischen Beherrschbarkeit des Packages abhängt.

iHBM lässt sich laut SK Hynix im bestehenden Wafer-Level-Packaging-Prozess herstellen, der auf der in Serienprodukten bereits eingesetzten MR-MUF-Technologie basiert. Auch mit bestehenden System-in-Package-Architekturen soll die Lösung kompatibel sein. Kunden könnten die neue Thermomanagement-Funktion damit mit vergleichsweise geringen Designanpassungen integrieren.

SK Hynix plant, iHBM ab der kommenden HBM-Generation einzuführen, also ab HBM5. Ziel ist es, die Stabilitäts- und Effizienzanforderungen von KI-Rechenzentren und High-Performance-Computing-Umgebungen zu erfüllen, in denen höhere Stapelhöhen, steigende Datenraten und wachsende Leistungsdichten das Wärmemanagement weiter verschärfen. (sb)

(ID:50857242)