Edge-KI Referenzplattform kombiniert Intel Core Ultra 3 mit M.2-SSD von Innodisk

Anbieter zum Thema

Innodisk Corp.

Intel Deutschland GmbH

Syslogic GmbH

congatec GmbH

Apacer Technology B.V.

Mit zunehmender Leistungsfähigkeit von Edge-KI steigen auch die Anforderungen an die Systemarchitektur. Eine gemeinsam von Intel und Innodisk entwickelte Referenzplattform auf Basis der Intel Core Ultra Series 3 kombiniert diese Komponenten für leistungsfähige Edge-AI-Anwendungen.

Die „künstliche Intelligenz“ wandert zunehmend aus den Rechenzentren an den Netzwerkrand. Dort werden Daten direkt an Maschinen, Kameras, Robotern oder anderen Endgeräten verarbeitet. Das reduziert die Abhängigkeit von Cloud-Verbindungen und verringert bei zeitkritischen Anwendungen die Latenz. Gleichzeitig bleiben sensible Daten lokal. Mit dieser Verlagerung steigen allerdings die Anforderungen an Edge-Systeme. Neben ausreichender KI-Rechenleistung müssen sie große Datenmengen aufnehmen, speichern und mit möglichst geringer Verzögerung verarbeiten können. Entscheidend ist deshalb nicht allein die Performance des Prozessors. Vielmehr müssen Computing, Arbeitsspeicher, Storage und I/O als Gesamtsystem betrachtet werden. Intel und Innodisk verfolgen diesen Ansatz mit einem Referenz-Kit auf Basis der Intel Core Ultra Series 3. Die Plattform kombiniert die Prozessorarchitektur mit LPDDR5-Speicher und einer PCIe-4.0-NVMe-SSD von Innodisk und soll Entwicklern damit eine Ausgangsbasis für neue Edge-KI-Systeme bieten.

Heterogenes Computing für KI am Edge

Herzstück der Mini-ITX-Plattform sind Intel-Core-Ultra-Series-3-Prozessoren der Panther-Lake-U/H-Familie. Die H-Serie erreicht laut Intel eine KI-Rechenleistung von bis zu 180 TOPS. Dabei wird die KI-Verarbeitung auf unterschiedliche Recheneinheiten verteilt. CPU, GPU und NPU können jeweils diejenigen Aufgaben übernehmen, für die ihre Architektur besonders geeignet ist. Gerade am Edge ist dieses heterogene Computing interessant. Während GPUs hohe Parallelleistungen bereitstellen, können NPUs KI-Workloads energieeffizient ausführen. Die CPU übernimmt weiterhin allgemeine Steuerungs- und Applikationsaufgaben. Dadurch lässt sich die verfügbare Rechenleistung je nach Workload differenziert einsetzen.

Die Referenzplattform integriert bis zu 64 GB LPDDR5 mit Datenraten von bis zu 8.533 MT/s. Eine hohe Speicherbandbreite ist für KI-Anwendungen relevant, weil Modelle und Eingangsdaten kontinuierlich zwischen dem Arbeitsspeicher und den Recheneinheiten bewegt werden müssen.

Storage wird Teil der KI-Datenpipeline

Eine ähnliche Bedeutung kommt dem Massenspeicher zu. Kameradaten, Sensordaten, KI-Modelle oder lokal erzeugte Ergebnisse müssen schnell bereitgestellt beziehungsweise gespeichert werden. Als Data-Intelligence-Komponente kommt deshalb eine M.2-SSD der Innodisk-Serie 4TG2-P zum Einsatz. Sie nutzt PCIe Gen 4 x4 und NVMe 1.4 und erreicht sequenzielle Leseraten von bis zu 6.950 MB/s sowie Schreibraten von bis zu 4.700 MB/s. Speicherkapazitäten von 256 GB bis 4 TB ermöglichen die Anpassung an unterschiedliche Edge-Szenarien.

Für Anwendungen mit erhöhten Anforderungen an Datensicherheit und Betriebssicherheit bietet die SSD hardwarebasierte AES-256-Verschlüsselung. Optional steht mit Innodisks iCell-Technologie eine Power-Loss-Protection zur Verfügung, die bei einem unerwarteten Spannungsausfall den Schutz von Daten verbessert. Die Industrieausführung ist für Betriebstemperaturen von –40 °C bis +85 °C spezifiziert. Damit wird deutlich, dass Storage bei Edge-KI nicht nur als Ablage für das Betriebssystem und die Applikationen betrachtet werden sollte. Je größer Modelle und Datenmengen werden, desto stärker beeinflusst die Speicherperformance die gesamte Verarbeitungskette.

Konnektivität für datenintensive Anwendungen

Auch die Schnittstellenausstattung trägt diesem Ansatz Rechnung. Die Mini-ITX-Plattform mit 170 mm × 170 mm bietet unter anderem vier HDMI-2.1-Anschlüsse sowie acht USB-3.2-Ports. Für die Netzwerkanbindung stehen 10 GbE über einen Intel-E610-Controller sowie 2,5 GbE über Intel i226 zur Verfügung. Die hohe Netzwerkbandbreite ist beispielsweise für industrielle Bildverarbeitung oder verteilte KI-Systeme relevant, bei denen mehrere Kameras, Sensoren oder Edge-Knoten kontinuierlich Daten austauschen. Der spezifizierte Betriebstemperaturbereich des Referenzsystems liegt bei 0 °C bis +60 °C, die CPU-TDP bei 25 W.

Referenzdesign verkürzt Entwicklungswege

Mit dem gemeinsam entwickelten Referenz-Kit verfolgen Intel und Innodisk vor allem das Ziel, die Integration neuer Edge-KI-Systeme zu vereinfachen. Vorab abgestimmte und für die Plattform qualifizierte Komponenten können den Validierungsaufwand reduzieren und den Entwicklern eine definierte Basis für eigene Designs geben. Denn mit steigender KI-Leistung wird die Abstimmung der einzelnen Komponenten immer wichtiger. Ein leistungsfähiger Prozessor allein garantiert noch kein schnelles Edge-KI-System. Erst wenn Recheneinheiten, RAM, Storage und Netzwerkanbindungen die benötigten Daten mit ausreichender Geschwindigkeit bereitstellen, lässt sich die verfügbare KI-Performance tatsächlich nutzen. Referenzplattformen helfen dabei, diese Bausteine von Beginn an als Gesamtsystem zu betrachten. (mc)

(ID:50943338)