Mehrere OpenAI-KI-Agenten entwichen aus Sandboxes, aber es kam zu keinen Hacks

OpenAI leitete eine Untersuchung zu einem Vorfall ein, bei dem seine KI-Agenten aus einer isolierten Testumgebung ausbrachen und die KI-Plattform von Hugging Face hackten. Wie Reuters nun berichtet, war dies nicht der einzige derartige Vorfall. Nach Angaben anonymer Quellen gelang es mehreren weiteren KI-Agenten von OpenAI, aus ihren Sandboxes zu entkommen, aber anders als beim Hack von Hugging Face führten diese Fälle nicht dazu, dass die KI-Systeme das Netzwerk von OpenAI verließen oder auf Ressourcen anderer Unternehmen zugriffen. Das ungewöhnliche Verhalten von KI-Modellen ist für führende Labore zu einer Quelle des Stolzes geworden; Anthropic berichtete zuvor über drei Fälle, in denen seine KI-Agenten aus Testumgebungen ausbrachen und Ressourcen anderer Organisationen hackten. Die Öffentlichkeit hat jedoch solche Enthüllungen kritisiert und den Entwicklern vorgeworfen, diese Vorfälle für Marketingzwecke zu nutzen, um die Leistungsfähigkeit ihrer Modelle hervorzuheben. Darüber hinaus verschärfen diese Vorfälle und ihre anschließenden Enthüllungen die Diskussionen über die Notwendigkeit einer staatlichen Regulierung der KI-Branche.