Intelligent Edge: Kleinstes System-on-Module mit Google-Coral-KI

Anbieter zum Thema

Murata Electronics Europe B.V.

Murata Europe B.V. Germany Branch

ROHM Semiconductor GmbH

ISH Ingenieursozietät GmbH

Syslogic GmbH

Murata und Google haben das weltweit kleinste KI-Modul mit „Coral“-Intelligenz entwickelt. Es basiert auf Googles Egde-Tensor-Processing-Unit und soll auch ohne Cloud-Anbindung zuverlässig Inferenz-gestützte Entscheidungen in Endgeräten wie Inspektionskameras in der Produktion treffen.

Murata hat zusammen mit Google das nach eigenen Angaben weltweit kleinste KI-Modul entwickelt. Grundlage des „Coral Accelerator Module“ genannten Produkts ist der Edge-TPU-ASIC (TPU für „Tensor Processing Unit“) von Google (mehr dazu siehe unten). Nach Angaben des Unternehmens ist es gelungen, die Größe des Moduls im Laufe der Entwicklung deutlich zu verringern. Dies soll das Design besonders kleiner Leiterplatten – und somit Endgeräte – ermöglichen. Die Miniaturisierung sei entscheidend, gelte es doch, in platzbeschränkten Anwendungen hochgradig robuste Funktionalität bereitzustellen. Als Ergebnis der Zusammenarbeit ist eine Lösung entstanden, die die für KI erforderlichen algorithmischen Berechnungen nach eigenen Angaben wirksam beschleunigt. Murata fertigt den Baustein im hauseigenen Multi-Chip-Module-Prozess.

Laut Murata ist das Modul in der Lage, störendes Rauschen besonders gut zu unterdrücken. Dies soll „eine der schwierigsten Probleme beim Implementieren von KI-Lösungen“ adressieren. Entstanden sei ein robuster, lötbarer Baustein, der Anwendern das Integrieren von KI- Inferenz-Funktionen in ganz unterschiedliche Umgebungen vereinfachen soll. „Mit dem Coral Accelerator Module steuert Murata einen wichtigen Baustein zum Edge-KI-Ökosystem bei“, ist Sean Kim von der Connectivity Product Marketing Group bei Murata überzeugt. Es ebne den Weg für die nächste Generation von Geräten mit maschineller Intelligenz.

Coral: Inferenzbeschleunigung offline auf Endgeräten

Coral ist Googles ohne viel Aufsehen aus der Taufe gehobene Initiative für KI auf Endgeräten. Die Plattform besteht aus Hardware-Komponenten, Software-Tools und vorkompilierten Modellen und hat erst letzten Oktober den Beta-Status verlassen. Bei Thema Intelligent Edge ist Google beileibe nicht allein auf weiter Flur: Dutzende andere Firmen – von Start-Ups wie Kneron, Xnor oder Cartesiam bis zu Branchengrößen wie Intel, das im Dezember das KI-Prozessor-Start-Up Habana übernommen hat – arbeiten an Hardware-Lösungen, die Endgeräte mit zuverlässigen Entscheidungsfähigkeiten ausstatten soll.

Bislang ist es meist noch so, dass die Rechenleistung von Edge-Geräten nicht ausreicht, umfangreiche Inferenzberechnungen direkt zum Beispiel auf einer Inspektionskamera in der Produktion auszuführen. Stattdessen werden die aus aufgenommenen Signalen generierten Daten an Zentralrechner – etwa in einer Cloud-Umgebung – gesendet werden, die in der Lage sind, Neuronale-Netzwerk-Modelle für Maschinelles Lernen schnell zu verarbeiten.

Ein Kerngedanke bei Coral ist es, KI-Algorithmen zu entwickeln, die vollständig offline auf Endgeräten laufen und somit ohne Cloud-Anbindung funktionieren. Da alle Inferenzberechnungen lokal erfolgen, soll ein hohes Maß an Datenintegrität sichergestellt werden. Der Anwender soll selbst entscheiden können, welche Daten das Endgerät verlassen und welche nicht. Laut Murata könne Coral zudem eine ausgewogene Balance zwischen guter Performance und niedrigem Stromverbrauch sicherstellen.

Tiefe Integration in Googles KI-Ökosystem

Angesichts der vielen Konkurrenten will Coral sich durch die tiefe Integration der Hardware in Googles KI-Ökosystem differenzieren. Dazu zählen neben KI-Prozessoren auch die Open-Source-Programmierumgebung TensorFlow Lite und weitere Entwicklungs-Tools. Für Coral gibt es eine ganze Bibliothek an KI-Modellen, die speziell für die Edge-TPUs kompiliert wurden. So gerüstet können Entwickler eigene Modelle erstellen oder verschiedene KI-Modelle von Google für Edge TPU neu trainieren. Das aktuelle April-Update von Coral enthält eine Programmierschnittstelle (API), die ein KI-Modell auf mehrere Edge-TPUs aufteilen können soll.

Und Google wäre nicht Google, wenn es bei allen Edge-KI-Fähigkeiten nicht doch eine Anbindung an die Google Cloud geben würde, die weitere KI-Services bereitstellt – zum Beispiel Cloud-basiertes Training eigener Modelle. Laut Google ist so eine komplette Cloud-to-Edge-Hardware- und Softwareinfrastruktur verfügbar. Durch die enge Bindung von Coral an Googles KI-Ökosystem funktioniert Edge TPU-betriebene Hardware allerdings nur mit Googles ML-Framework TensorFlow – so mancher Konkurrent auf dem KI-Edge-Marktsieht dies als möglicherweise limitierenden Faktor.

Intelligent Edge für Prototyping oder Produktion

Bereits heute sind im Coral-Universum Prototyping-Geräte, bestehend aus einem kompakten Single-Board-Computer und USB-Schnittstellen, sowie produktionsfertige System-on-Modules und PCIe-Module erhältlich. Damit gerüstet sollen Firmen in der Lage sein, KI-basierte Endgeräte schneller vom Prototyp bis zum produktionsfertigen Status entwickeln zu können.

Während die SBCs und Entwicklungs-Boards für das Prototyping neuer Ideen gedacht sind, lassen sich die Module als KI-Booster direkt in produktionsrelevanten Geräten wie Smart-Kameras und Sensoren einsetzen. In beiden Fällen bildet Googles Edge TPU das Herzstück der Hardware. Die „Tensor Processing Units“, kurz TPUs, sind von Google mit Fokus auf maschinelles Lernen entwickelte anwendungsspezifische Schaltkreise (Application Specific IC, ASIC).

Ihre Spezialität ist das Verarbeiten von mehrlagigen Perzeptronen (Multi-Layer Perceptron, MLP), Convolutional Neural Networks (CNN) und Long-Short-Term-Memory-Anwendungen (LSTM). MLPs sind nicht zuletzt in der Forschung nützlich wegen ihrer Fähigkeit, Probleme stochastisch zu lösen. Selbst für extrem komplexe Probleme lassen sich damit Lösungen durch Annäherung ermitteln. Die Edge TPUs sollen in der Lage sein, diese NN bei niedriger Energieaufnahme schnell zu verarbeiten.

On the Road to Edge-KI

Während die Plattform bei vielen Anwendern den Spieltrieb stimuliert – es gibt beispielsweise Anleitungen zum Bau einer KI-gesteuerte Marschmallow-Sortiermaschine oder einer smarten Vogel-Fütterungsanlage – stehen langfristig Unternehmenskunden im Fokus: „Coral ermöglicht neue Anwendungen für Embedded-KI in den unterschiedlichsten Branchen – von der Produktion über das Gesundheitswesen bis hin zur Landwirtschaft“, sagt der für Coral zuständige Product Manager, Vikram Tank.

Wie viel Geschäft Google derzeit mit Coral macht, lässt sich nicht sagen. Das Unternehmen nennt keine Umsatzzahlen dafür. Bislang treibt Google seine Cloud-basierten KI-Services deutlich intensiver voran. Doch mit Coral kann die Alphabet-Tochter viel darüber erfahren, wie Künstliche Intelligenz in industriellen Applikationen eingesetzt wird. Denn in der Praxis führen derzeit viele Anwendungen von Maschinellem Lernen direkt zur Intelligent Edge.

Weiterführende Lesetipps

MCU, MPU oder FPGA: Was ist das Beste für KI an der Edge?

KI für jeden: Smarte IoT-Endgeräte 50 mal schneller ohne Vorwissen entwickeln

KI-Studie: Deutsche wollen Sicherheit und Transparenz bei Künstlicher Intelligenz

(ID:46493576)