Wie ich KI auf die dunkle Seite brachte: Systemische Schwachstellen in führenden LLMs
OpenAI
Anthropic
DeepSeek
Google/DeepMind
Meta
Microsoft
Mistral
xAI
Der Forscher Dave Kuszmar entdeckte mehrere systemische Schwachstellen in großen Sprachmodellen (Large Language Models, LLMs), die es ihm ermöglichten, Sicherheitsmaßnahmen zu umgehen und gefährliche Anweisungen zu erhalten. Die Exploits funktionierten bei nahezu allen großen LLMs und offenbarten ein branchenweites Sicherheitsproblem. Kuszmar fordert eine Verlangsamung der Bereitstellung, mehr Transparenz und groß angelegte Forschung zur Sicherheit von LLMs.
Der Forscher Dave Kuszmar, ein ehemaliger Cybersicherheitsdirektor, entdeckte, dass er mit Techniken wie Time Bandit und Inception Sicherheitsbeschränkungen führender großer Sprachmodelle (Large Language Models, LLMs) umgehen konnte. Time Bandit nutzt die mangelnde Kenntnis des LLMs über die aktuelle Zeit aus, sodass es unter veralteten Gesetzen arbeitet, während Inception verschachtelte Szenarien verwendet, um das Modell zur Erzeugung schädlicher Ausgaben zu verleiten. Diese Exploits funktionierten bei Modellen wie OpenAIs GPT-4o, Anthropics Claude, DeepSeek, Googles Gemini, Metas Llama, Microsofts Copilot, Mistrals Le Chat und xAIs Grok. Kuszmar konnte Anleitungen zur Herstellung von Napalm, Methamphetamin und sogar einer Urananreicherungsanlage für Kernwaffen erhalten. Trotz der Meldung der Schwachstellen an OpenAI, die CIA, das FBI und andere Behörden erhielt er wenig Rückmeldung. Die Schwachstellen wurden schließlich von Bleeping Computer verifiziert und dem Computer Emergency Response Team (CERT) des Software Engineering Institute der Carnegie Mellon University gemeldet.
Quelle: IEEE Spectrum AI —
Original