Memristoren für KI Können KI-Chips ein Gefühl für die Zeit bekommen?

Anbieter zum Thema

University of Michigan

CSA Group Bayern GmbH

ROHM Semiconductor GmbH

Schneider Electric GmbH

Die Zeitmessung im Gehirn erfolgt mit Neuronen, die sich nach dem Empfang eines Signals unterschiedlich schnell entspannen; jetzt können Memristoren – Hardware-Analoga von Neuronen – dies ebenfalls.

Künstliche neuronale Netze könnten bald in der Lage sein, zeitabhängige Informationen wie Audio- und Videodaten effizienter als bisher zu verarbeiten. In einer von der Universität of Michigan (U-M) geleiteten Studie wird in „Nature Electronics“ über den ersten Memristor mit einer einstellbaren „Relaxationszeit“ berichtet.

Memristoren, elektrische Bauteile, die Informationen in ihrem elektrischen Widerstand speichern, könnten den Energiebedarf von künstlicher Intelligenz im Vergleich zu den heutigen grafischen Verarbeitungseinheiten um etwa das 90-fache senken. Schon jetzt wird prognostiziert, dass KI im Jahr 2027 etwa ein halbes Prozent des weltweiten Gesamtstromverbrauchs verursachen wird, und diese Zahl könnte sich noch erhöhen, wenn mehr Unternehmen KI-Tools verkaufen und einsetzen.

Bildergalerie

„Im Moment besteht ein großes Interesse an KI, aber um größere und interessantere Daten zu verarbeiten, muss das Netzwerk vergrößert werden. Das ist nicht sehr effizient“, sagte Professor Wei Lu von der U-M zusammen mit John Heron, U-M Associate Professor of Materials Science and Engineering sowie Mitautor der Studie.

Energiefresser GPU

Das Problem ist, dass Grafikprozessoren ganz anders arbeiten als die künstlichen neuronalen Netze, auf denen die KI-Algorithmen laufen. Das gesamte Netz und alle seine Interaktionen müssen nacheinander aus dem externen Speicher geladen werden, was sowohl Zeit als auch Energie verbraucht. Im Gegensatz dazu bieten Memristoren Energieeinsparungen, weil sie wichtige Aspekte der Funktionsweise künstlicher und biologischer neuronaler Netze ohne externen Speicher nachahmen. In gewisser Weise kann das Memristor-Netzwerk das künstliche neuronale Netzwerk verkörpern.

„Wir gehen davon aus, dass unser brandneues Materialsystem die Energieeffizienz von KI-Chips um das Sechsfache gegenüber dem modernsten Material ohne variierende Zeitkonstanten verbessern könnte“, sagte Sieun Chae, ein kürzlich an der U-M promovierter Materialwissenschaftler und Mitautor der Studie zusammen mit Sangmin Yoo, der auch an der U-M promovierte.

Neuronen und Memristoren

In einem biologischen, neuronalen Netzwerk wird die Zeitmessung durch Entspannung erreicht. Jedes Neuron empfängt elektrische Signale und sendet sie weiter, aber es ist keine Garantie dafür, dass ein Signal weitergeleitet wird. Es muss ein bestimmter Schwellenwert an eingehenden Signalen erreicht werden, bevor das Neuron sein eigenes sendet, und zwar innerhalb einer bestimmten Zeitspanne. Wenn zu viel Zeit vergeht, entspannt sich das Neuron, da die elektrische Energie aus ihm entweicht. Neuronen mit unterschiedlichen Entspannungszeiten in unseren neuronalen Netzen helfen uns, Ereignisabläufe zu verstehen.

Memristoren funktionieren ein wenig anders. Es geht hier nicht um das Vorhandensein oder Nichtvorhandensein eines Signals, sondern darum, wie viel des elektrischen Signals durchgelassen wird. Wenn ein Signal anliegt, verringert sich der Widerstand des Memristors, sodass mehr vom nächsten Signal durchgelassen wird. Bei Memristoren bedeutet Entspannung, dass der Widerstand mit der Zeit wieder ansteigt.

Die Gruppe von Lu hatte zwar in der Vergangenheit untersucht, wie sich die Relaxationszeit in Memristoren einbauen lässt, doch dies war nicht etwas, das systematisch kontrolliert werden konnte. Nun aber haben Lu und Herons Team gezeigt, dass Variationen eines Basismaterials unterschiedliche Relaxationszeiten liefern können, sodass Memristor-Netzwerke diesen Zeithaltemechanismus nachahmen können.

Supraleiter im Spiel

Das Team baute die Materialien auf dem Supraleiter YBCO auf, der aus Yttrium, Barium, Kohlenstoff und Sauerstoff besteht. Er hat zwar keinen elektrischen Widerstand bei Temperaturen unter –292 °C, aber sie wollten ihn wegen seiner Kristallstruktur nutzen. Es leitete die Organisation der Magnesium-, Kobalt-, Nickel-, Kupfer- und Zinkoxide im Memristor-Material.

Heron nennt diese Art von Oxid ein entropiestabilisiertes Oxid, die „Küchenspüle der atomaren Welt“: je mehr Elemente sie hinzufügen, desto stabiler wird es. Durch Änderung des Verhältnisses dieser Oxide erreichte das Team Zeitkonstanten von 159 bis 278 ns. Das von ihnen entwickelte einfache Memristor-Netzwerk lernte, die Töne der Zahlen null bis neun zu erkennen. Einmal trainiert, konnte es jede Zahl erkennen, bevor die Audioeingabe abgeschlossen war.

Diese Memristoren wurden mit einem energieintensiven Verfahren hergestellt, weil das Team perfekte Kristalle benötigte, um ihre Eigenschaften genau messen zu können. Man erwartet für die Serienfertigung einfachere Herstellungsverfahren. „Bisher ist es eine Vision, aber ich denke, es gibt Wege, diese Materialien skalierbar und erschwinglich zu machen“, sagte Heron, „denn sie sind in der Erde reichlich vorhanden, ungiftig, billig und man kann sie fast aufsprühen“.

Diese Forschung wurde von der National Science Foundation finanziert. Sie wurde in Zusammenarbeit mit Forschern der University of Oklahoma, der Cornell University und der Pennsylvania State University durchgeführt. Das Bauelement wurde in der Lurie Nanofabrication Facility gefertigt und im Michigan Center for Materials Characterization untersucht. (sb)

Troubleshooting bei elektronischen Displays

„KI ist ein unverzichtbares Werkzeug, aber kein Allheilmittel“

Hype um künstliche Intelligenz

KI ist überbewertet, Nvidias Erfolg eine Blase: Geht KI unter – oder hebt KI ab? Es gibt viele Wahrheiten

(ID:50138500)