Emmanuel Macron und Narendra Modi luden zum zweitägigen AI Action Summit in Paris. (Bild: Elysee)
Investitionen in EU-KI

AI Action Summit in Paris: Frankreich und EU versprechen Investitionen, die USA kritisieren

Die globale KI-Entwicklung wird von US-Unternehmen dominiert. Während China mit DeepSeek eine leistungsstarke Open-Source-Alternative vorstellt, setzt Europa auf massive Investitionen, um technologisch aufzuholen. Unternehmen haben angekündigt, mehrere Hundert Milliarden Euro in europäische KI zu investieren. Derweil kritisiert US-Vizepräsident JD Vance den europäischen Versuch, eine regulierte und „sichere KI“ zu schaffen.

Weiterlesen

Bildergalerien

KI-Jailbreaks stellen mit zunehmender Verbreitung von generativer KI eine nicht zu unterschätzende Gefahr dar, sind sie doch in der Lage, Sicherheits- und Ethikrichtlinien eines KI-Modells auszuhebeln. Anthropic, Anbieter der Claude-LLMs, will nun einen Schutzmechnismus gefunden haben, der in 95% aller Testfälle solche Jailbreaks unterbindet. (Bild: DALL-E / KI-generiert)
Constitutional Classifiers

Anthropic testet Algorithmus zum verlässlichen Unterbinden von „KI-Jailbreaks“

Anthropic hat ein neues Sicherheitssystem für sein Sprachmodell Claude entwickelt, das sogenannte Jailbreaks erschweren soll. Mit Constitutional Classifiers filtert das System problematische Anfragen, um zu verhindern, dass Claude unerwünschte Inhalte generiert. In 95% der getesteten Fälle zeigte sich das System erfolgreich – bietet bei der Implementierung aber auch Nachteile.

Weiterlesen