KI-Inferenz auf heimischer Hardware Zhipu betreibt neues KI-Modell auf mehr als 100.000 chinesischen Chips

Anbieter zum Thema

MES Electronic Connect GmbH & Co. KG

RECOM Power GmbH

Erst trat GLM-5.3-Flash anonym als „Ox Alpha“ gegen andere KI-Modelle an, dann legte Zhipu AI die Karten auf den Tisch: Der gesamte Datenverkehr soll auf mehr als 100.000 chinesischen KI-Chips gelaufen sein. Eine eigene Inferenz-Engine soll dabei helfen, deren Speicherengpässe zu umgehen.

Eine Woche lang wusste niemand, woher dieses neue KI-Modell kam. Es hieß nur „Ox Alpha“, ein Codename. Es war ziemlich gut. Auf dem Marktplatz Openrouter stürmte es die Charts. Nach fünf Tagen lag der Datenverkehr von Ox Alpha bei mehr als dem Doppelten von DeepSeek. Er habe 50 Billionen Token überschritten, berichtete das chinesische Finanzportal Hua’erjie Jianwen.

Am 26. August 2026 outete sich die Firma Zhipu AI aus Peking, die international unter dem Namen Z.ai bekannt ist, als Entwickler des Modells. Das war sechs Tage nach dem anonymen Start am 20. August. Das Modell heiße jetzt GLM-5.3-Flash und seine Gewichte stünden ab demselben Abend zum Download bereit, erklärte das Unternehmen. GLM-5.3-Flash schaffte es bis auf Platz 10 des Intelligence Index des unabhängigen Benchmark-Dienstes Artificial Analysis. Damit lag es noch vor DeepSeek V4 Pro Max, berichtete der US-Sender CNBC. Es erreichte dort 57 Punkte, denselben Wert wie Claude Opus 4.8 von Anthropic, sagten Sprecher von Zhipu.

Das neue Starmodell aus China war nicht ganz so gut wie die besten US‑Modelle. Bei komplexen Aufgaben und längeren Agenteneinsätzen hinke es ihnen noch leicht hinterher, schrieb Tengxun Keju, ein chinesisches Tech-Portal. Nach den Ergebnissen unabhängiger Tests sei aber „ein Open-Source-Modell in den Leistungsbereich vorgestoßen, der bislang hauptsächlich von hochpreisigen, geschlossenen Flaggschiff-Modellen besetzt war“, hieß es auch. Also Konkurrenz für Anthropic und OpenAI, mit offenen Gewichten und zu einem Bruchteil der Kosten.

Kostengunst

Nur 0,15 US-Dollar pro Million Input-Token und 0,50 US‑Dollar pro Million Output-Token zahlt ein Nutzer, der GLM-5.3-Flash über die Schnittstelle von Zhipu aufruft. Das ist DeepSeek-Niveau und nur etwa ein Vierzigstel dessen, was Opus 4.8 von Anthropic kostet. „Spitzenleistung des Modells, offene Gewichte, der Betrieb im großen Maßstab auf heimischen Chips und extrem niedrige API-Preise treten hier gleichzeitig auf“, schrieb das chinesische Tech-Portal.

Weltweite Schlagzeilen machte eine weitere Enthüllung von Zhipu AI. Der gesamte Datenverkehr von Ox Alpha sei auf chinesischen KI-Chips gelaufen, schrieb das Unternehmen in der technischen Dokumentation des Modells. Es seien mehr als 100.000 Stück gewesen. „Hardware-Effizienz und Kosten pro Token haben ein Niveau erreicht, das mit gängigen Nvidia-GPUs vergleichbar ist“, schrieb das Unternehmen selbst. Die Chip-Hersteller verriet man allerdings nicht. Analysten spekulieren über eine Mischung aus Ascend-Prozessoren von Huawei und Komponenten weiterer chinesischer Anbieter.

Der Engpass chinesischer KI-Chips ist normalerweise ihr Speicher. Weder Kapazität noch Bandbreite sind ausreichend, wenn ein Modell einen Kontext von bis zu einer Million Token im Blick behalten soll. Zhipu AI hat daher eine eigene Inferenz-Engine entwickelt. Die komprimiert die Zwischenspeicher, verteilt die Rechenlast auf mehrere Chips eines Servers und trennt das Einlesen der Anfrage vom Erzeugen der Antwort. So sei auf derselben Hardware die Leistung verdreifacht worden, gab Zhipu bekannt.

Ein echter Vergleich fällt schwer

Diese Angaben sind nicht unabhängig zu überprüfen, und ein genauer Preisvergleich bleibt auch schwer, weil viele Einzelheiten nicht bekannt sind. Fest steht, dass der Chipcluster tagelang echte Last getragen und gute Arbeit geleistet hat. Dieses Ergebnis hatten die amerikanischen Exportkontrollen eigentlich verhindern sollen. Washington verbietet den Verkauf der leistungsfähigsten KI-Chips von Nvidia nach China. So will man verhindern, dass die Volksrepublik im Wettlauf um die künstliche Intelligenz zu den USA aufschließen kann.

Genau diese Logik ist aber nun infragegestellt worden. Wenn ein Pekinger Unternehmen ein Modell auf Augenhöhe mit Opus 4.8 auf chinesischen Chips laufen lassen kann und das noch dazu zu einem Bruchteil des Preises, dann könnte man zu dem Schluss kommen, dass die US-Sanktionen versagt haben.

„Der gesamte Datenverkehr läuft auf heimischen Chips, mit einer Hardware-Effizienz und Kosten pro Token, die inzwischen mit Nvidia-GPUs vergleichbar sind“, kommentierte das Halbleiter-Analysehaus SemiAnalysis auf X.

Im Juli dieses Jahres soll Zhipu in China ein großes Rechenzentrum mit einer Leistung von einem Gigawatt (GW) fertiggestellt haben. Es soll bereits teilweise in Betrieb genommen worden sein, berichtete die Nachrichtenagentur Bloomberg unter Berufung auf einen Insider. Die Anlage sei so groß, dass sie bei voller Auslastung so viel Strom verbrauche wie rund 750.000 Haushalte. Mindestens 10.000 chinesische Chips seien bereits installiert. Um die Anlage komplett zu bestücken, müsste Zhipu aber Hunderttausende Chips einbauen, hieß es in dem Bericht.

„Was GLM-5.3-Flash bestätigt, ist ein Muster, das nicht mehr überrascht. Chinesische Labore liefern offene Modelle nahe an der Spitzenklasse zu einem Bruchteil des westlichen Preises“, zitierte Bloomberg Dermot McGrath, Gründer der Shanghaier Beratungsfirma ZenGen Labs. (sb)

(ID:50945900)