Künstliche Intelligenz Vertrauenswürdige KI, die nicht lügt, ist noch viele Jahre weit weg

Anbieter zum Thema

NVIDIA GmbH

MicroConsult Academy GmbH

MES Electronic Connect GmbH & Co. KG

Syslogic GmbH

Wenn künstlicher Intelligenz Informationen fehlen, kommt es vor, dass sie diese „Wissenslücken“ ungefragt mit Lügen füllt – die künstliche Intelligenz halluziniert dann. Nvidias CEO Jensen Huang glaubt, dass das Problem halluzinierender KI noch viele Jahre lang bestehen wird.

Künstliche Intelligenz ist aktuell ein hilfreiches Werkzeug im alltäglichen Leben, allerdings nur dann, wenn man weiß, wie man damit umgehen sollte. Denn blind vertrauen kann man KI nicht, solange das Problem der Halluzinationen nicht aus der Welt geschafft ist. Wenn eine künstliche Intelligenz halluziniert, dann lügt sie dem Nutzer gewissermaßen etwas vor. Das geschieht, wenn der KI Informationen fehlen. Sie füllt die Lücken dann mit Falschinformationen oder gar mit völlig ausgedachtem Wissen. Vertrauenswürdig ist das nicht.

Das sieht auch Jensen Huang so, der CEO des weltgrößten KI-Chip-Anbieters, Nvidia. Im Rahmen eines Interviews an der Hong Kong University of Science and Technology sprach Huang über dieses und weitere Themen, etwa den Anstieg des Bedarfs an Computing-Power in den vergangenen zehn Jahren. Bei der Gelegenheit wurde Huang neben weiteren Personen als Ehrendoktor der Universität erwählt, genauer zum Doctor of Engineering honoris causa.

Im Gespräch über die Entwicklungen, die beim Training der künstlichen Intelligenz mittlerweile erreicht wurden, hob Huang hervor, dass die Fortschritte bis zum aktuellen Stand beeindruckend sind, man der KI allerdings bisher nicht weitgehend vertrauen kann.

Kampf gegen die Halluzinationen – mit Rechenpower

Pro Jahr steigt der Bedarf an KI-Rechenleistung etwa ums Vierfache, so Huangs Gastgeber Prof. Harry Shum beim Fireside-Chat an der Universität. „Wenn Sie mit Ihrer Kristallkugel in die Zukunft schauen, werden wir in den nächsten zehn Jahren einen millionenfachen Anstieg des Bedarfs sehen?“ lautete danach die Frage.

Huang gab keine direkte Antwort, erklärte dafür aber, wie künstliche Intelligenz derzeit entwickelt wird. Im Pre-Training lernt die KI gewissermaßen alle Daten der Welt und entdeckt dadurch Wissen; Huang vergleicht das mit einer Hochschulphase. Ausreichend sei das allerdings nicht. In der nächsten Phase folgt das Post-Training, bei dem unterschiedliche Lerntechniken angewandt werden. Dazu zählen unter anderem Verstärkungslernen durch menschliches Feedback, Verstärkungslernen durch KI-Feedback, synthetische Datengenerierung und Multipath-Lernen, um die KI zu spezialisieren.

Zum Abschluss folgt der komplizierteste und aufwendigste Schritt, die Testzeitskalierung, die auch als „Denken“ bezeichnet wird. Die KI schlüsselt dabei das Problem Schritt für Schritt auf, um eine Lösung zu finden, und muss dabei unter Umständen iterieren und verschiedene Ergebnisse simulieren, wenn die Antwort nicht vorhersehbar ist. Huang: „Wir nennen das Denken, und je länger man nachdenkt, desto hochwertiger könnte die Antwort werden.“

Trotz all dieser Mühen können wir laut Huang den besten Antworten, die die KI liefern kann, noch immer nicht uneingeschränkt vertrauen. „Heute sind die Antworten, die wir haben, die besten, die wir erhalten können. Doch wir müssen einen Punkt erreichen, an dem die Antwort nicht nur die beste ist, sondern an dem wir nicht mehr entscheiden müssen, ob sie halluziniert ist, ob die Antwort Sinn ergibt, ob sie vernünftig ist oder nicht“, erklärte Huang. „Wir müssen an einen Punkt gelangen, an dem wir der erhaltenen Antwort weitgehend vertrauen können. Ich glaube, wir sind noch einige Jahre von diesem Punkt entfernt, und in der Zwischenzeit müssen wir unsere Rechenleistung weiter steigern.“

Ohne Nvidia wäre KI teuer

In dem Feld hätte sich Nvidia in den vergangenen Jahren ganz besonders hervorgetan, davon ist Huang überzeugt. „Was Nvidia beigetragen hat, ist, dass wir die Grenzkosten des Rechnens um das Millionenfache reduziert haben.“ Dadurch haben sich die Gewohnheiten bezüglich Rechenvorgänge mit enormen Datenmengen in Wirtschaft und Wissenschaft grundlegend verändert und deswegen hat das maschinelle Lernen so abgehoben. Die Behauptung, dass Nvidias KI-GPUs ja immer noch vergleichsweise teuer seien, konterte Huang damit, dass sie ohne Nvidia noch wesentlich teurer wären. „Ich habe euch in den vergangenen zehn Jahren einen millionenfachen Rabatt gegeben. Es ist praktisch kostenlos“, so Huang. Das Interview können Sie sich nachfolgend im Video ansehen.

 (sb)

Generative KI und Cybersicherheit

Halluzinierende KI, wortgewandte Phisher: Chancen und Gefahren generativer KI

(ID:50249764)