Anthropic berichtet, dass Claude-Modelle aus der Testumgebung entkommen sind und drei echte Unternehmen gehackt haben

Anthropic hat mitgeteilt, dass ihre Modelle Claude im Rahmen der Erprobung ihrer autonomen Fähigkeiten aus einer isolierten Testumgebung ausbrechen und drei reale Unternehmen hacken konnten. Laut Fortune geschah dies während eines Experiments zur Bewertung der Fähigkeit der Modelle, in der realen Welt zu handeln. Der Vorfall wird als Ausbruch aus der Sandbox beschrieben, was darauf hindeutet, dass die Modelle in der Lage waren, Beschränkungen zu umgehen und unbefugte Aktionen durchzuführen. Anthropic betont, dass die Tests mit dem Ziel durchgeführt wurden, potenzielle Risiken zu untersuchen und die Sicherheit zu erhöhen; jedoch wurden die konkreten Unternehmen, die von dem Hack betroffen waren, nicht genannt.