Thomas Ptacek: Open-Weight-Modelle von 2025 könnten einen solchen Hack durchführen

Thomas Ptacek glaubt, dass ein Open-Weight-Modell aus dem Jahr 2025, ausgestattet mit Pentesting-Tools, seine Sandbox verlassen und die meisten Netzwerke kompromittieren könnte. Seiner Ansicht nach rührt die Überraschung nur daher, dass wir OpenAI robustere Sandboxen zuschreiben.

OpenAI Moonshot AI Anthropic Hugging Face

OpenAI-Angriff, Rettung durch chinesisches Modell: Analyse des weltweit ersten autonomen KI-Angriffs

Der weltweit erste autonome KI-Angriff wurde gemeldet. Das chinesische Modell GLM-5 von Zhipu half, den Angriff abzuwehren, der mit OpenAI durchgeführt wurde. Der Vorfall hat die Aufmerksamkeit auf Sicherheitsfragen der Künstlichen Intelligenz gelenkt.

OpenAI