gesponsertModulare Box-PCs Flexible Rechenleistung für jede Edge-KI-Anwendung

Die rasante Entwicklung der künstlichen Intelligenz (KI) ermöglicht täglich neue Einsatzgebiete, um die individuellen Anforderungen an die Leistung bedienen zu können, sind modulare Systeme eine Lösung.

Trainingsdaten und Algorithmen sind die wichtigsten Bausteine für den erfolgreichen Einsatz von künstlicher Intelligenz. Unternehmen investieren immense Ressourcen in die Entwicklung und den Schutz ihrer Daten, da diese den entscheidenden Wettbewerbsvorteil darstellen. Um die Leistung von KI-Modellen kontinuierlich zu verbessern und gleichzeitig die Sicherheit der Daten zu gewährleisten, sind leistungsstarke Hardware-Plattformen unerlässlich. CompactPCI Serial etabliert sich als ein wichtiger Standard für den Einsatz in KI-Anwendungen, da es die notwendige Rechenleistung und Flexibilität bietet, um auch komplexe Modelle effizient zu trainieren und einzusetzen, denn Cloud-Lösungen ziehen immer häufiger Datenschutzbedenken mit sich. Außerdem sind hohe Kosten und potenzielle Latenzen zunehmend unattraktiv im Gegensatz zu On-Premise-Lösungen. Standards wie CompactPCI Serial und ModBlox7 bringen immer vielversprechendere Einsatzmöglichkeiten und etablieren sich immer weiter für den Aufbau von Edge-KI-Systemen.

CompactPCI Serial: Ein etablierter Standard für industrielle Anwendungen

Damit wären wir bei der ersten Formgröße: CompactPCI Serial ist ein oft genutzter offener Standard für Embedded-Computer. In den vergangenen Jahren wurde CompactPCI Serial in vielen industriellen Anwendungen verwendet. Durch die bewährte Architektur mit Backplane und Steckkarten können Systeme variabel aufgebaut werden, um die unterschiedlichsten Anforderungen zu erfüllen. Die Bauhöhe von 3 HE ist dabei kompakt, wenn auch nicht gerade winzig. Solche Architekturen können sinnvoll mit vorhandenen und neuen Technologien kombiniert werden. Durch die Verwendung von Hochgeschwindigkeits-Schnittstellen können große Datenmengen schnell übertragen werden, was gerade im Bereich der KI-Anwendungen von entscheidender Bedeutung ist. Zudem sorgt die robuste Bauweise der CompactPCI Serial-Systeme dafür, dass die Geräte auch in rauen Umgebungen einsetzbar sind.

Bildergalerie

KI-Beschleunigung an der Edge: GPUs, FPGAs und spezialisierte Chips

Da KI-Algorithmen sehr rechenintensiv sind und CPUs hier schnell an ihre Grenze stoßen, kommen Hardware-Beschleuniger zum Einsatz. Je nach Anwendungsfall muss man unterscheiden, welcher hier das optimale Kosten-Nutzen-Verhältnis liefert:

• Grafikprozessoren (GPUs): GPUs bieten eine hohe parallele Rechenleistung und sind besonders gut für Aufgaben wie das Training neuronaler Netzwerke geeignet.

• Field Programmable Gate Arrays (FPGAs): FPGAs sind programmierbare Logikbausteine, die sich an spezifische Aufgaben anpassen lassen und eine hohe Energieeffizienz bieten.

• Tensor Processing Units (TPUs): TPUs sind von Google entwickelte spezialisierte Chips, die speziell für maschinelles Lernen optimiert sind und eine hohe Leistung bei geringerem Energieverbrauch bieten.

• Neuartige Beschleuniger: Es gibt eine Vielzahl von neuartigen Beschleunigern, die speziell für KI-Anwendungen entwickelt wurden, wie beispielsweise neuromorphe Chips, die die Funktionsweise des menschlichen Gehirns imitieren.

Die wachsende Leistungsdichte von KI-Beschleunigern stellt insbesondere in rugged und semi-rugged Umgebungen hohe Anforderungen an die Kühlung. Um die Wärmeabfuhr von Hochleistungs-KI-Modulen mit bis zu 100 W pro Steckplatz zu gewährleisten, bietet sich Flüssigkühlung an. Das High-Performance-Computing-System von Elma Electronic integriert mehrere Module in einer mobil nutzbaren Systemplattform und ermöglicht eine lokale Kühlung von bis zu 1.000 W. Die robuste Bauweise eignet sich für den Einsatz in vibrationsbeständigen Systemen unter anspruchsvollen Umgebungsbedingungen.

Dabei finden KI-Module im CompactPCI Serial-Standard Anwendung. Die industrielle Automatisierung ist seit langem das Paradebeispiel für den erfolgreichen Einsatz von künstlicher Intelligenz. Gerade Bereiche wie Qualitätskontrolle, Produktionsplanung oder vorausschauende Wartung profitieren ganz besonders von den KI-Algorithmen. Dabei reicht die Bandbreite der Anwendungen von der Erkennung defekter Bauteile über die Optimierung von Produktionsprozessen bis hin zur voraussagenden Wartung von Anlagen. Die oft rauen Umgebungsbedingungen in Produktionsstätten stellen allerdings hohe Anforderungen an die Robustheit und Zuverlässigkeit der eingesetzten Hardware und Software. Gewisse industrielle Standards sind daher unverzichtbar, da Consumer-Produkte hier schnell an ihre Grenzen stoßen. Auch die rauen Umgebungsbedingungen in Fahrzeugen, wie Vibrationen und Temperaturschwankungen, können durch passive Kühlkonzepte zuverlässig erfüllt werden.

ModBlox7: Anpassungsfähig und kompakt

Unter Umständen ist die typische Baugröße von 3 HE bei CompactPCI Serial zu groß. Die Nachfrage nach kleineren und flexibleren Embedded-Systemen führte zu neuen Embedded-Systemen wie ModBlox7. ModBlox7 baut auf den bewährten Prinzipien traditioneller Systemarchitekturen auf und erweitert diese um neue Funktionen. ModBlox7-Module lassen sich auf einer Hutschiene in fast beliebiger Reihenfolge zu einem Gesamtsystem zusammenstecken. Durch seine kompakte Bauform und die Möglichkeit zur Kaskadierung eignet sich ModBlox7 damit ideal für den Einsatz in beengten Räumen. Diese einfache Montage sowie die Erweiterbarkeit machen ModBlox7 zu einer attraktiven Lösung für eine Vielzahl von Anwendungen. ModBlox7 wurde speziell für Projekte entwickelt, die kompakte und energieeffiziente Systeme bevorzugen. In modularer Bauweise können so Systeme schnell und einfach konfiguriert und erweitert werden. ModBlox7 eignet sich besonders gut für Anwendungen, bei denen Platz eine entscheidende Rolle spielt. So kommt der Standard nicht nur in Produktionen, sondern auch in mobilen Robotern, Drohnen oder in der Luftfahrt zum Einsatz. Durch die Verwendung von standardisierten Steckverbindern ist eine einfache Integration in bestehende Systeme gewährleistet.

Low-Power-Systeme wie ModBlox7 eignen sich für Anwendungen in rauen Umgebungen wie der Bahnindustrie oder in mobilen Anwendungen. Dank der Konduktions-Kühlung und kompakten Bauform finden sie an jedem Ort ihren Platz. Die modulare Architektur ermöglicht eine flexible Anpassung an unterschiedliche Anforderungen und eine einfache Skalierung. Durch die Unterstützung verschiedener Prozessorarchitekturen (ARM und x86) sowie eine Vielzahl von Schnittstellen, wie 5G, MVB und CAN, sind diese Systeme für eine breite Palette von Anwendungen geeignet, von der Industrie 4.0 bis hin zur Landwirtschaft.

In einer Kooperation entwickelten Elma Electronic, Hailo und Isarsoft eine Videoanalyselösung für den Schienenverkehr. Der kompakte Edge-KI-Box-PC von Elma, ausgestattet mit dem Hailo-8 KI-Beschleuniger, wandelt Videosignale in verwertbare Metadaten um. Die KI-Business-Intelligence-Software von Isarsoft wandelt die Rohdaten der Sicherheitskameras in Informationen wie Personenströme, unbeaufsichtigtes Gepäck oder Überfüllungsalarme um.

KI-Leistung kommt meist von Nvidia

Bis vor kurzem galt das Jetson AGX Xavier von Nvidia bei allen KI-Modulen als Maßstab für Leistungsstärke. Erst die Einführung des Nvidia Orin hat den Maßstab deutlich angehoben. Die enormen Leistungssteigerungen ermöglichen es, selbst anspruchsvollste KI-Anwendungen direkt am „Edge“ umzusetzen. Dank der offenen Architektur von CompactPCI Serial können diese leistungsstarken Module nahtlos in bestehende Systeme integriert werden.

Während hochleistungsfähige KI-Chips wie der Nvidia Orin für anspruchsvolle Aufgaben wie das Training von KI-Modellen entwickelt wurden, sind die Anforderungen an Edge-Computing-Anwendungen oft geringer. ModBlox7, dass sich in seiner Leistungsfähigkeit am Nvidia Jetson NX orientiert, bietet die ideale Basis für den Einsatz in konkreten Anwendungen.

Kleiner geht’s noch

Die Einsatzmöglichkeiten von CompactPCI Serial und ModBlox7 in Verbindung mit KI sind vielfältig. In vielen Branchen zeigt sich bereits, dass die Kombination aus Miniaturisierung und hoher Leistung für zukünftige Anwendungen von Bedeutung sein könnte. Wenn langfristig keine Flexibilität erforderlich ist, kann das System auch Stand-alone verwendet werden.

Elma Electronic hat mit dem JetSys-2010 ein System entwickelt, das auf dem Orin-Board von Nvidia basiert und als robuster Single-Board-Computer in anspruchsvollen Umgebungen eingesetzt werden kann. Zusammen mit T-Systems wurde das Orin-Board um notwendige Komponenten wie Netzteil, Speicher und Schnittstellen ergänzt, um es unter anderem für den Einsatz in Schienenfahrzeugen mit EN50155-Zertifizierung vorzubereiten. Systeme wie das JetSys-2010 können durch Mustererkennung Frequenzströme erfassen, Passagierzahlen auswerten und vorhersagen oder Kapazitätsmessungen in Echtzeit übermitteln. Sie bieten Potenzial für Situationsanalysen, erkennt herrenlose oder gefährliche Gegenstände, erstellt Vandalismusvorhersagen, tragen zum Gesundheitsschutz bei und überwachen die Sauberkeit in Fahrzeugen. Im Bedarfsfall könnten solche Systeme sogar die Fahrscheinkontrolle übernehmen.

Kern dieser Anwendung ist eine robuste KI-Box im kompakten Format mit einem speziellen passiven Kühlsystem. Auf Basis des neuen Nvidia JetsonOrin NX 16 GB und dem Nvidia JetPack-Ökosystem bietet das JetSys-2010 geballte Computingpower in extrem widerstandsfähiger und wartungsarmer Form. Dank der EN50155-Konformität ist der JetSys-2010 anwendungsbereit für Branchen wie Eisenbahn, Transportwesen, Industrieautomation und viele mehr. Zahlreiche Schnittstellen ermöglichen die Anbindung vielfältiger Datensensoren.

Zusammenfassung

Die Welt der Embedded-Systeme wandelt sich gerade sehr schnell. Während CompactPCI Serial ursprünglich für den Einsatz in 19-Zoll-Schränken konzipiert wurde, haben sich die Anforderungen in den letzten Jahren deutlich verändert. Der Trend geht hin zu kleineren und leichteren Systemen, welche platzsparend und energieeffizient sind. Die PICMG-Community hat mit der SWaP-C-Initiative auf diese Entwicklung reagiert und ModBlox7 hervorgebracht. SWaP-C steht für „Size, Weight and Performance - Cost-effective“ und zielt darauf ab, die Entwicklung von kompakten und kostengünstigen Embedded-Systemen zu fördern. Durch die Standardisierung von kleineren Formfaktoren schafft SWaP-C mehr Übersichtlichkeit in einem Markt, der bisher von einer Vielzahl inkompatibler Lösungen geprägt war.

CompactPCI Serial und ModBlox7 bieten eine solide Grundlage für den Aufbau von KI-Systemen an der Edge. Ihre offene Architektur, hohe Flexibilität und Skalierbarkeit machen sie zu idealen Plattformen für eine Vielzahl von Anwendungen. Durch die kontinuierliche Entwicklung von leistungsstärkeren Hardware-Beschleunigern und effizienteren Software-Tools wird die Bedeutung dieser Standards in Zukunft weiter zunehmen. Und falls das nicht reicht, stehen Hardwarespezialisten wie Elma Electronic bereit, um mit puristischen Konzepten das maximale Leistungspotenzial von KI-Modulen verfügbar zu machen. 

(ID:50246144)