Mobile-Menu

KI-Sicherheit KI-Sicherheitstest endet mit fremden Kundendaten

Von Dipl.-Ing. (FH) Michael Richter 2 min Lesedauer

Anbieter zum Thema

CTX Thermal Solutions GmbH
IBR Leiterplatten GmbH & Co. KG
RECOM Power GmbH

Ein KI-Agent sollte Sicherheitstests durchführen – und griff dabei Kundendaten von WorkOS ab, einem Anbieter für Anmeldung und Nutzerverwaltung in Unternehmenssoftware. Möglich machte das eine Verkettung gleich mehrerer Sicherheitslücken.

KI-Agenten können Sicherheitslücken automatisiert aufspüren. Unzureichend begrenzte Testumgebungen bergen dabei Risiken für fremde Systeme.(Bild: frei lizenziert / Pexels)
KI-Agenten können Sicherheitslücken automatisiert aufspüren. Unzureichend begrenzte Testumgebungen bergen dabei Risiken für fremde Systeme.
(Bild: frei lizenziert / Pexels)

Ein Sicherheitstest mit Folgen für ein fremdes Unternehmen: Nach Angaben von WorkOS griff der KI-Agent eines Forschers auf eine interne Anwendung für Vertrieb und Kundensupport zu. Der Forscher habe mit dem Werkzeug Artex Sicherheitsbenchmarks durchgeführt. Dabei habe der Agent seine Testumgebung verlassen. Wie das technisch möglich war, erläutert WorkOS nicht.

Vier Schutzlücken treffen auf automatisierte Zugriffe

Die am 6. November veröffentlichte Aufarbeitung nennt vier Schwachstellen: eine öffentlich erreichbare API, vorhersehbare Entwicklungszugangsdaten, fehlende Anfragelimits und unzureichende Überwachung. Zwischen dem ersten nachgewiesenen Zugriff am 25. Oktober und der Entdeckung lagen fünf Tage. Als ein Mitarbeiter auffällige Nutzung bemerkte, war der massenhafte Datenabruf bereits abgeschlossen. Betroffen waren unter anderem Geschäftskontaktdaten und Auszüge aus Kundenkommunikation.

Das Besondere liegt damit im Zusammenspiel zweier Sicherheitsaufgaben: Ein Testagent muss innerhalb seines erlaubten Einsatzbereichs bleiben; ein Unternehmenssystem muss unberechtigte Zugriffe abwehren. Versagen beide Grenzen, kann aus einem Forschungsversuch ein realer Datenabfluss entstehen. Die beschriebenen Schwachstellen zeigen zudem, dass dafür keine neuartige Angriffstechnik erforderlich sein muss.

Das Angriffswerkzeug wird zum Prüfwerkzeug

Der Forscher meldete sich laut WorkOS und lieferte technische Belege, die das Unternehmen und ein unabhängiger Forensikdienstleister mit Protokollen abglichen. Er versicherte, die Daten gelöscht und nicht weitergegeben zu haben.

Eine weitere Besonderheit: WorkOS setzt inzwischen selbst Artex für Sicherheitstests ein. Das Unternehmen sperrte öffentliche Zugänge und widerrief beziehungsweise rotierte Zugangsdaten. Weitere Verbesserungen waren zum Berichtsstand noch in Arbeit.

Der Fall verdeutlicht damit auch den doppelten Einsatz solcher Werkzeuge: Automatisierte Prüfungen können Schwachstellen aufdecken, benötigen aber verlässliche technische Grenzen. Wie häufig KI-Agenten diese Grenzen unbeabsichtigt überschreiten, lässt sich aus einem einzelnen Vorfall nicht ableiten. Dafür wären systematische Daten nötig, die tatsächliche Häufigkeit und wachsende öffentliche Aufmerksamkeit auseinanderhalten.

Die zunehmenden Berichte über KI-gestützte Angriffe erhöhen den Druck, Sicherheitslücken frühzeitig zu schließen. Automatisierte Werkzeuge finden Schwachstellen immer schneller und nutzen diese aus – auch solche, die bislang unbemerkt geblieben sind. Für Unternehmen liegt darin zugleich eine Chance: Dieselben Fähigkeiten und Tools lassen sich nutzen, um eigene Systeme gezielter zu prüfen und Lücken rechtzeitig zu beheben. (mr)

(ID:51013251)

Jetzt Newsletter abonnieren

Verpassen Sie nicht unsere besten Inhalte

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte