Cybersicherheit G7 und EU einigen sich auf SBOM-Richtlinie für KI-Systeme

Anbieter zum Thema

Bundesamt für Sicherheit i.d.Informationstechnik

CSA Group Bayern GmbH

MicroConsult Academy GmbH

Cadlog Group

Die G7-Staaten und die EU-Kommission haben erstmals gemeinsame Mindestanforderungen für sogenannte „Software Bill of Materials for AI“ definiert. Die Richtlinie soll Transparenz über KI-Modelle, Trainingsdaten, Abhängigkeiten und Sicherheitsmechanismen schaffen.

Die Cybersicherheitsbehörden der G7-Staaten und die EU-Kommission haben eine gemeinsame Richtlinie zu „Software Bill of Materials for AI“ (SBOM for AI) veröffentlicht. Sie wurde unter Federführung des deutschen Bundesamts für Sicherheit in der Informationstechnik (BSI) und der italienischen Cybersicherheitsbehörde ACN erarbeitet und baut auf einer gemeinsamen Vision auf, die bereits im Juni 2025 vorgestellt wurde.

Das Dokument beschreibt erstmals konkrete Mindestinformationen, die künftig in einer SBOM for AI enthalten sein sollten. Ziel ist es damit, Transparenz über KI-Lieferketten zu schaffen und Schwachstellenmanagement sowie Cyberrisikomanagement für KI-Systeme zu verbessern. Die Richtlinie versteht sich ausdrücklich nicht als Gesetz oder Standard, sondern als praktische Handlungsempfehlung für öffentliche und private Akteure.

Sieben Cluster für Transparenz entlang der KI-Lieferkette

Die Richtlinie strukturiert eine SBOM for AI in sieben sogenannte Cluster. Dazu gehören Metadaten, Systeminformationen, Modelle, Datensätze, Infrastruktur, Sicherheitsmerkmale und Leistungskennzahlen.

Im Bereich „Models“ fordert die Richtlinie unter anderem Informationen zu Modellarchitektur, Parametern, Trainingsmethoden, verwendeten Frameworks, Lizenzmodellen sowie kryptografischen Hashwerten der Modelle. Genannt werden etwa Transformer-Architekturen, Fine-Tuning-Methoden oder Angaben dazu, ob ein Modell „open weight“ oder „open data“ ist.

Besonders umfangreich fällt der Bereich „Dataset Properties“ aus. Dort sollen unter anderem Herkunft, Sensitivität und statistische Eigenschaften von Trainingsdaten dokumentiert werden. Die Richtlinie nennt explizit Informationen zu Datenquellen, Web-Crawling, Labeling-Prozessen sowie Hinweise darauf, ob personenbezogene Daten, urheberrechtlich geschützte Inhalte oder sensible medizinische beziehungsweise finanzielle Informationen enthalten sind.

Auch agentische KI und externe APIs im Fokus

Interessant für Unternehmen: Die Richtlinie betrachtet KI-Systeme nicht isoliert, sondern als Gesamtsysteme mit externen Diensten und Datenflüssen. Dokumentiert werden sollen daher auch APIs, Kommunikationsprotokolle zwischen KI-Agenten, Datenströme sowie Ein- und Ausgabeeigenschaften eines Systems. Als Beispiele nennt das Dokument Multi-Agent-Kommunikation, bidirektionale Datenflüsse zu externen Diensten oder Angaben zu verwendeten Tokenizern in LLMs.

Im Bereich „Security Properties“ fordert die Richtlinie Angaben zu implementierten Sicherheitsmechanismen. Dazu zählen klassische Maßnahmen wie Verschlüsselung, Zugriffskontrollen oder API-Authentifizierung, aber auch KI-spezifische Schutzmaßnahmen wie Prompt-Injection-Schutz, adversariales Robustheitstraining oder Input-/Output-Filter.

Die Autoren betonen zugleich, dass eine SBOM for AI allein nicht ausreiche, um die Sicherheit von KI-Lieferketten sicherzustellen. Sie müsse mit Schwachstellenmanagement, Security Advisories und geeigneten Sicherheitswerkzeugen kombiniert werden. Das vollständige Dokument „Software Bill of Materials for AI – Minimum Elements“ wurde gemeinsam von BSI, ACN, ANSSI, CISA, NCSC, dem japanischen NCO sowie weiteren G7-Partnern veröffentlicht und kann über die Webseite des BSI heruntergeladen werden. (sb)

(ID:50850768)