Künstliche Intelligenz: Startup Mythic entwickelt neuartigen In-Memory-Prozessor

Das amerikanische Startup Mythic will nächstes Jahr einen neuen Chip ausliefern, der KI-Funktionen hybrid analog und digital direkt im Flash-Speicher berechnet. Diese „Intelligence Processing Unit“ (IPU) soll 50-mal weniger Strom verbrauchen als volldigitale GPUs.

Anbieter zum Thema

HTV Halbleiter-Test & Vertriebs-GmbH

congatec GmbH

SECO Northern Europe

Das Startup Mythic aus Austin im US-Bundesstaat Texas verspricht, neuronale Netze mithilfe seiner Prozessoren direkt im Flash-Speicher berechnen zu können. Nach eigenen Angaben führt die Mythic-Plattform hybride digital- und analogbasierende Berechnungen im Inneren von Flash-Speichern aus. Dies sei ein vollständig neuer Ansatz, mit dem sich die Gewichtungen neuronaler Netze langfristig im Speicher-Array ablegen lassen, was wiederum Vorteile bei Performance, Stromverbrauch und Genauigkeit bringe.

Mythics Plattform soll die Leistungsfähigkeit einer ausgewachsenen Desktop-GPU (Graphic Processing Units) in einem knopfgroßen Chip bieten, der mehrere Millionen gewichtete neuronale Netze unterstützt. Dank hoch- und schnellskalierender Technologie ermögliche der Chip massiv-parallele Berechnungen genau dann, wenn eine Anwendung Künstliche Intelligenz erfordert. Durch das "Überlagern" von Prozessor und Speicher sowie der massiv-parallelen analogen Arithmetik arbeiten die eigenen Chips laut Mythic viel energieeffizienter als volldigitale Plattformen. Die Energieaufnahme sei bis zu 50-mal niedriger. Noch sind die eigenen Prozessoren nicht marktreif. Die kommerzielle Einführung planen die Chip-Entwickler für Ende 2019.

Neue Speichertechnologien ermöglichen neue Anwendungen

Neuartige nichtflüchtige Speicher (Non-Volatile Memory, NVM) würden neue Anwendungsansätze möglich machen, erklärt Professor Suman Datta gegenüber der EE Times. Der Leiter des Lehrstuhls Elektrotechnik der University of Notre Dame ist überzeugt: „In-Memory-Processing ist eine Schlüsseltechnologie dabei.“ Demnach könnte In-Memory-Computing als Basis für eine neue Art von KI-Beschleunigern dienen, die bis zu 10.000 Mal schneller rechnen als gängige GPUs. Diese übernehmen dank Spezialisierung auf massiv parallele Datenverarbeitung heute häufig Berechnungen im Bereich Künstliche Intelligenz.

Algorithmen für maschinelles Lernen nutzen häufig MAC-Rechenoperationen (Multiply-Accumulate) in Matrizen (Arrays). Dabei werden zwei Faktoren multipliziert und das Produkt zu einem fortlaufenden Summanden (Akkumulator) addiert. Diese Operation ist ein Grundelement für viele Transformationen innerhalb der Signalverarbeitung. Daher sind MAC-Recheneinheiten besonders häufig in Digitalen Signalprozessoren (DSP) anzutreffen.

Immer mehr KI-Anwendungen erhöhen Nachfrage nach typischen DSP-Berechnungen

Die Ankündigung des neuen Mythic-Prozessors kommt zu einem Zeitpunkt, zu dem die Skalierung von CMOS-Prozessen sich verlangsamt, während gleichzeitig die explosionsartige Zunahme von KI-Anwendungen die Nachfrage nach dem massiven Einsatz von schnellen MAC-Recheneinheiten beflügelt.

In den 1990er Jahren seien mehrere Ansätze entwickelt worden, solche Prozessoren umzusetzen, blickt Datta zurück – etwa EXECUBE, IRAM und FlexRAM. Doch erst jetzt, mit dem Auftauchen neuer Speichertechnologien wie Phase-Change-Memory, Resistive-RAM und auch STT-MRAM sowie der hohen Nachfrage nach Hardware-Beschleunigern für maschinelles Lernen sei die Zeit gekommen, kommerzielle Produkte zu designen. „Die meisten bisherigen In-Memory-Processing-Entwicklungen gehen allerdings nicht über den Bereich einzelner Einheiten oder Arrays hinaus“, sagt Datta. Einen vollständigen KI-Beschleuniger gebe es bislang noch nicht. Daher sei die Ankündigung von Mythic sehr interessant.

Rechnen mit analogen Elementen

Auch IBM forscht an In-Memory-Prozessoren. Vijay Narayanan, Material-Wissenschaftler bei IBM Research, berichtet von der Herausforderung, die richtigen analogen Speicherbausteine auszuwählen. Die verwendeten Materialien seien entscheidend für die Funktion. Denn diese müssten nicht nur kompatibel zu gängigen CMOS-Prozessen sein, sondern bei anliegender Spannung auch symmetrische Leitfähigkeits- und Widerstandswerte haben. Gegenüber der EE Times erklärt der Forscher: „Wir wissen, wie wir vorhandene Materialien verbessern können und kommen gut voran. Gleichzeitig evaluieren wir neue Stoffe.“

Bislang hat IBM diskrete Einheiten und Arrays produziert, nicht jedoch einen kompletten Testchip in der angestrebten Größe eines 4K x 4K-Arrays. Mit einem Phase-Change-basierten Array mit 500 x 661 Zellen konnte IBM „ausreichende Genauigkeit und Beschleunigung“ demonstrieren. Ziel von IBM ist es, analoge Elemente so zu nutzen, dass sich damit mehrere Leitfähigkeitsniveaus definieren lassen. Gegenüber digitalen Prozessoren ließe sich damit der Stromverbrauch für Berechnungen reduzieren – was die Aussage von Mythic über die eigene In-Memory-Processing-Lösung untermauert.

(ID:45281979)