Einige führende KI-Modelle sind erschreckend einfach zu knacken, wie ein Bericht zeigt

FAR.AI, eine gemeinnützige Organisation für KI-Sicherheit, hat ein Tool entwickelt, das tausende Prompt-Variationen generiert, um leistungsstarke KI-Modelle zu jailbreaken. Sie testeten Modelle von US-Unternehmen: Anthropics Claude Opus 4.8 und Fable 5; OpenAIs GPT 5.5 und 5.6; Googles Gemini 3.1 Pro; und Grok 4.3 und 4.5 von SpaceXAI. Der Bericht fand 448 Jailbreaks für Grok, 249 für Gemini und keine für Claude, Fable oder GPT. Die Kosten für einen Jailbreak betrugen 58 US-Dollar für Grok und 278 US-Dollar für Gemini. FAR.AI-CEO Adam Gleave forderte verbindliche Sicherheitsstandards und wies darauf hin, dass freiwillige Zusagen nicht ausreichen. Rohin Shah von Google DeepMind argumentierte, dass die Ergebnisse keine umfassende Sicherheitsbewertung darstellen. Anthropic und Google betonten kontinuierliche Verbesserungen. Kalifornien, New York und Illinois haben Gesetze erlassen, die Sicherheitsberichte oder Prüfungen durch Dritte vorschreiben, aber es gibt keine bundesstaatlichen Anforderungen. Das Weiße Haus hat Verzögerungen bei einigen Modellveröffentlichungen verlangt. Experten warnen vor möglichem Missbrauch im Cyber-, Bio- oder Chemiebereich.