gesponsertSysteme für lange Lebenszyklen Industrielle KI an der Edge

Cloud-KI ist leistungsfähig, aber nicht in jeder Situation die richtige Antwort. Für Industrie, Medizin und Robotik setzt Advantech auf lokale KI, kundenspezifische Hardware und Systeme, die Kunden mehr Kontrolle über Daten, Latenz und Systemleistung geben.

Bei einem chirurgischen Roboter ist die Latenz einer Cloud-Verbindung kein abstrakter IT-Wert. Wenn ein Bild erst an einen entfernten Ort übertragen, dort verarbeitet und anschließend zurückgeschickt werden muss, können Latenz und die Abhängigkeit von einer stabilen Verbindung zu einem realen Problem werden. Tony Chen, Vice President und Head of Advantechs Applied Computing Group (ACG), die Design and Manufacturing Services (DMS) anbietet, sieht darin ein anschauliches Beispiel dafür, warum die Zukunft industrieller KI über das Rechenzentrum hinausgeht. Gerade in zeitkritischen medizinischen Anwendungen können Latenz und Konnektivität entscheidend werden.

Die Cloud verschwindet deshalb nicht. Große Modelle und rechenintensive Aufgaben haben dort weiterhin ihren Platz. Daneben wächst aber eine andere Klasse von Systemen: Maschinen, medizinische Geräte, Fahrzeuge oder Roboter, die KI lokal ausführen und auf Daten reagieren können, ohne für jede Entscheidung ein Rechenzentrum fragen zu müssen. Gerade in Europa sieht Chen großes Potenzial für lokale KI. Nicht, weil europäische Entwickler grundsätzlich gegen die Cloud wären, sondern weil Datenschutz, Latenz, Sicherheit und der Wunsch, eigenes Know-how unter eigener Kontrolle zu behalten, hier eine vergleichsweise große Rolle spielen. Gleichzeitig ist die Einführung von KI nicht nur eine Hardwarefrage. Ebenso schwierig kann es sein, KI in bestehende Softwareumgebungen und insbesondere in Legacy-Systeme zu integrieren.

Nicht jede Intelligenz muss in die Cloud

Advantech kommt aus einer Welt, in der Embedded- und Industriecomputer über Jahre oder sogar Jahrzehnte in Maschinen laufen. Die erste Digitalisierungswelle brachte Geräte ins Netz, später wanderten immer mehr Daten in Cloud-Systeme. Mit Edge AI verschiebt sich nun ein Teil der Verarbeitung wieder zurück zum Gerät. Für Chen ist das kein Entweder-oder. Cloud und Edge AI erfüllen unterschiedliche Aufgaben. Große Modelle können im Rechenzentrum laufen, während kleinere oder spezialisierte Modelle unmittelbar an der Maschine Aufgaben übernehmen.

Bei einem Produktionssystem kann das eine Qualitätsentscheidung sein, bei einem medizinischen Gerät die Bildverarbeitung, bei einem Roboter die Auswertung seiner Umgebung. Entscheidend ist, dass nicht jede Information erst übertragen werden muss, bevor das System reagieren kann. Das reduziert Latenz und ermöglicht gleichzeitig, sensible Daten innerhalb der eigenen Infrastruktur zu halten.

Gerade Letzteres erlebt Chen häufig bei europäischen Kunden. Sie wollen ihr Wissen, ihre Algorithmen oder ihre Prozessdaten nicht zwangsläufig an einen externen Dienst übertragen. Bei einem Medizintechnikhersteller kann über Jahre entwickeltes Software-Know-how schließlich ein wesentlicher Bestandteil des Produkts sein. Chen formuliert es etwas ungewöhnlich: Europäische Unternehmen wollten ihre eigene „Persönlichkeit“ in ihren KI-Systemen behalten. Gemeint ist, dass eigene Softwarelogik, Algorithmen und Know-how im System bleiben sollen. Wer eine eigene Diagnosefunktion, Maschinensteuerung oder Bildverarbeitung entwickelt hat, möchte nicht unbedingt, dass die dazugehörigen Daten und Algorithmen die eigene Infrastruktur verlassen. Für Edge AI ist das ein ziemlich handfester Anwendungsfall.

Ein neuer Prozessor kann zwei Jahre Softwarearbeit bedeuten

Theoretisch klingt der Aufbau eines KI-Systems einfach: eine geeignete Rechenplattform auswählen, die notwendige Software installieren und loslegen. In industriellen Anwendungen funktioniert das allerdings selten so problemlos. Advantech hat zahlreiche Standardplattformen im Portfolio. Parallel arbeitet Chens Applied Computing Group mit Kunden, deren Anforderungen nicht in eine bestehende Konfiguration passen. Das kann die Rechenleistung betreffen, den Formfaktor oder Umgebungsbedingungen – von hohen oder niedrigen Temperaturen und begrenztem Platz bis zu besonderen Schnittstellen oder speziellen Anforderungen an die KI-Beschleunigung.

Die schwierigere Anpassung liegt dabei häufig gar nicht in der Hardware. „Europäische Kunden legen großen Wert auf ihre eigene Software“, sagt Chen. Ein Wechsel von einer Prozessorplattform auf eine andere kann deshalb erheblichen zusätzlichen Aufwand verursachen. Wenn eine Anwendung über Jahre für eine bestimmte x86-Plattform entwickelt und validiert wurde, klingt der Wechsel auf eine andere Prozessorplattform zunächst einfacher, als er tatsächlich ist. Manche Kunden rechnen für eine solche Migration mit bis zu zwei Jahren Softwarearbeit. Gerade in der Medizintechnik kann ein Plattformwechsel zusätzlich Validierung und erneute Tests nach sich ziehen.

Ein neuer Chip ist dann nicht einfach ein neuer Chip. Das erklärt auch, warum Advantech kundenspezifische Lösungen nicht nur als Anpassung einer Leiterplatte versteht. Die Aufgabe kann ebenso darin bestehen, bestehende Software auf neue Hardware zu migrieren, ohne die vorhandene Entwicklungsumgebung des Kunden unnötig aufzubrechen.

WEDA schafft eine gemeinsame Basis für Edge-AI-Deployments in verschiedenen Branchen

Um diese Aufgabe zu adressieren, stellt Advantech mit WEDA, der WISE-Edge Developer Architecture, einen gemeinsamen Software-Unterbau für KI- und IoT-Anwendungen bereit. Das Unternehmen beschreibt WEDA als modularen Entwicklungsrahmen, der gemeinsame Softwarefunktionen über unterschiedliche Edge-Systeme hinweg bereitstellen soll. Chen bezeichnet die Idee dahinter als eine Art „Glue Layer“, also als Schicht, die die verschiedenen Elemente zusammenhält.

Entwickler sollen sich nicht für Intel- und AMD-basierte Systeme, NVIDIA-Plattformen oder Arm-basierte Architekturen jeweils neu in völlig unterschiedliche Schnittstellen und Softwarekonventionen einarbeiten müssen. WEDA stellt dafür unter anderem Container, APIs und SDKs bereit, während Advantech versucht, einen Teil der darunterliegenden Hardwareunterschiede abzufangen. Ganz verschwinden diese Unterschiede natürlich nicht. Ein Arm-basiertes System bleibt technisch etwas anderes als eine x86-Plattform, und eine API allein kann nicht automatisch jede Software auf jede beliebige Architektur portierbar machen. Der Migrationsaufwand kann aber kleiner werden.

Nach Advantechs eigener Auswertung kann WEDA bei geeigneten Projekten die Entwicklungszeit um rund 30 Prozent reduzieren, sagt Chen. Das ist eine Herstellerangabe und hängt vom jeweiligen Projekt ab. Für Advantech steckt dahinter auch ein einfaches wirtschaftliches Interesse: Hardware bringt wenig, wenn der Kunde sein Produkt nicht fertigstellen kann. „Wenn unser Kunde kein Produkt ausliefern kann, sitzen wir im selben Boot“, sagt Chen.

Standardhardware bleibt – aber nicht für jede Anwendung

Der Trend zu kundenspezifischen Systemen bedeutet nicht, dass Standardprodukte überflüssig werden. Für viele Anwendungen sind sie weiterhin der schnellste Weg zum fertigen Produkt. Advantech bietet deshalb sowohl ein breites Portfolio standardisierter Produkte als auch seine Applied Computing Group, die Design and Manufacturing Services für Anforderungen übernimmt, die über Standardkonfigurationen hinausgehen. Manchmal ist die notwendige Änderung klein. In anderen Projekten entsteht eine deutlich veränderte Plattform.

Der Ausgangspunkt ist nicht zwingend ein bestimmter Prozessor oder eine bestimmte Architektur. Chen nennt Intel, AMD, NVIDIA und verschiedene Arm-basierte Plattformen als mögliche Grundlagen. Entscheidend ist, welche Plattform am besten zur Anwendung passt. Die Konzentration auf eine einzige Architektur kann die Entwicklung effizienter machen. Gleichzeitig steigt damit die Abhängigkeit davon, dass genau diese Architektur langfristig erfolgreich und verfügbar bleibt.

Advantech nimmt dafür den gegenteiligen Nachteil in Kauf: Mehrere Plattformen parallel zu unterstützen, erfordert zusätzliche Investitionen und Entwicklungsressourcen. Chen hält diesen Aufwand dennoch für notwendig, um Kunden bei der Wahl der für ihre Anwendung passenden Plattform mehr Flexibilität zu geben.

Wer nur auf ein Ökosystem setzt, kann danebenliegen

Die Grenze zwischen x86 und Arm wird zunehmend unschärfer. Gleichzeitig verändern KI-Beschleuniger, NPUs und GPUs die klassische Embedded-Architektur. Niemand kann zuverlässig vorhersagen, welche Plattform in fünf oder zehn Jahren eine bestimmte Anwendung dominieren wird. Advantech hält deshalb bewusst mehrere Technologiepfade offen. Chen formuliert es mit einem bekannten Bild: Man solle nicht alle Eier in denselben Korb legen.

Diese Strategie ist nicht kostenlos. Eine Multi-Plattform-Strategie erfordert dauerhaft Entwicklungsaufwand. Advantech hält ihn jedoch für notwendig, um Kunden langfristig flexibel zu halten und die Abhängigkeit von einer einzelnen Technologiearchitektur zu reduzieren. Zugleich will das Unternehmen damit auf Veränderungen der Märkte und geopolitischen Rahmenbedingungen reagieren können.

Für Embedded-Systeme kommt noch etwas hinzu: Die Produktlebensdauer ist deutlich länger als der typische Innovationszyklus eines Prozessors. Chen spricht von Projekten, die fünf oder zehn Jahre laufen. Manche Produkte werden noch 15 Jahre nach der ersten Auslieferung geliefert. Advantech richtet seine Technologie-Roadmaps deshalb nicht nur an den Chipanbietern aus, sondern auch an den langfristigen Anforderungen seiner Kunden.

Aus Just-in-Time wird im Zweifel Just-in-Case

Jüngere Lieferengpässe zeigen, dass diese Abhängigkeiten nicht nur eine theoretische Möglichkeit sind. Speicherpreise und Verfügbarkeiten können mit veränderten Marktbedingungen erneut unter Druck geraten. Advantech versucht nach Chens Aussage, solche Entwicklungen möglichst früh zu erkennen, Verträge mit Lieferanten auszuhandeln und für Kunden alternative Komponenten zu qualifizieren.

Dabei hat sich die Logik der vergangenen Jahre verändert. „Früher hieß Supply Chain Just-in-Time“, sagt Chen. „Heute ist es eher Just-in-Case.“ Mehr Lagerbestand löst allerdings nicht jedes Problem. Eine alternative Speicherkomponente oder ein anderer Prozessor muss im jeweiligen Industriesystem ebenfalls getestet und qualifiziert werden. Advantech qualifiziert deshalb für ausgewählte Plattformen mehrere unterschiedliche Speichervarianten und -konfigurationen.

Bei einem einzelnen Maschinenbauer würde dieselbe Second-Source-Arbeit Entwicklungsressourcen binden, die sonst in das eigene Produkt fließen könnten. Die Dienstleistung ist weniger spektakulär als eine KI-Demo auf einer Messe. Für ein Produkt, das zehn Jahre lieferbar sein soll, kann sie wichtiger sein.

Europa braucht nicht nur Hardware vor Ort

Chens Blick auf Europa ist dabei auffällig pragmatisch. Der Markt sei für kundenspezifische Systeme interessant, funktioniere aber nicht wie ein homogener Wirtschaftsraum. Deutschland ist nicht Frankreich, Frankreich nicht Italien und Italien nicht Skandinavien. Advantech unterhält deshalb technische und vertriebliche Teams (Advantechs Design & Manufacturing Services. Made in Europe) in verschiedenen europäischen Regionen. Für Chen reicht es nicht, Hardware aus Taiwan zu liefern und jedes Problem anschließend per Mail oder Videokonferenz lösen zu wollen.

Er erzählt von einem Projekt in Italien, bei dem sich eine mechanische Frage trotz mehrerer Gespräche nicht sauber klären ließ. Erst als ein Ingenieur den Kunden besuchte, wurde deutlich, dass beide Seiten das Problem schlicht aus unterschiedlichen Blickwinkeln betrachtet hatten. „Es geht um Menschen und Kommunikation“, sagt Chen.

Das passt nicht ganz zum Bild einer immer autonomeren KI-Welt – muss es aber auch nicht. Je enger Hardware, Software und Anwendung ineinandergreifen, desto eher entstehen Probleme an den Schnittstellen. Ein lokaler Ingenieur kann gelegentlich mehr lösen als das nächste digitale Supportsystem.

Die Maschine muss nicht alles dürfen, nur weil sie es kann

Damit landet die Edge-AI-Debatte am Ende bei einer ziemlich klassischen Embedded-Frage: Welche Aufgabe soll das System tatsächlich erfüllen? Ein medizinisches Gerät braucht andere Rechenleistung als ein autonomes Fahrzeug. Ein Roboter für Bildverarbeitung benötigt andere Beschleuniger als ein batteriebetriebenes System, bei dem jedes Watt zählt. Und nicht jede Maschine braucht den größten verfügbaren KI-Prozessor.

Chen beschreibt Advantechs Rolle eher als die eines Kochs denn als die eines Halbleiterherstellers. Die Zutaten kommen von verschiedenen Plattformanbietern. Der Kunde definiert das gewünschte Ergebnis. Advantech versucht anschließend, daraus ein System zu bauen, das zur Anwendung passt.

Edge AI wird nicht dadurch industrietauglich, dass möglichst viel Rechenleistung an die Maschine geschraubt wird. Sie muss mit bestehender Software funktionieren, unter realen Umgebungsbedingungen arbeiten, über Jahre verfügbar bleiben und sich auch dann weiter unterstützen lassen, wenn ein Chip oder Speicherbaustein vom Markt verschwindet. Für europäische Entwickler kommt häufig eine weitere Anforderung hinzu: Sie wollen wissen, wo ihre Daten bleiben und wer die Kontrolle über das System hat. (sb)

(ID:50948089)