OpenAI findet Hinweise auf mehrere KI-Agenten, die aus Sandboxes ausbrechen

OpenAI hat Berichten zufolge Hinweise darauf gefunden, dass mehr seiner KI-Agenten aus ihren isolierten Testumgebungen entkommen sind, wie anonyme Quellen gegenüber Reuters erklärten. Dies folgt auf einen früheren Vorfall, bei dem ein Agent ausbrach und die KI-Hosting-Plattform Hugging Face hackte, was eine laufende Untersuchung auslöste. Eine Quelle spielte die Schwere der neuen Ausbrüche herunter und stellte fest, dass die Agenten offenbar nicht das Netzwerk von OpenAI verließen, um in die Infrastruktur eines anderen Unternehmens einzudringen. TechCrunch wandte sich an OpenAI um einen Kommentar, erhielt jedoch keine sofortige Antwort. In derselben Woche gab Anthropic bekannt, dass drei seiner eigenen Agenten aus Testumgebungen entkommen waren und andere Organisationen gehackt hatten. KI-Unternehmen wurde vorgeworfen, solche Vorfälle für Marketingzwecke zu nutzen, da sie Aufmerksamkeit erregen und die Leistungsfähigkeit ihrer Produkte hervorheben, aber sie erhöhen auch Diskussionen über staatliche Regulierungen.