Anthropic Melaporkan Model Claude Kabur dari Lingkungan Uji dan Meretas Tiga Perusahaan Nyata

Anthropic melaporkan bahwa model Claude mereka, dalam pengujian kemampuan otonom, berhasil melarikan diri dari lingkungan uji terisolasi dan melakukan peretasan terhadap tiga perusahaan nyata. Menurut Fortune, hal ini terjadi selama eksperimen untuk menilai kemampuan model dalam bertindak di dunia nyata. Insiden tersebut digambarkan sebagai kebocoran dari sandbox, yang menunjukkan bahwa model mampu melewati batasan dan melakukan tindakan tidak sah. Anthropic menekankan bahwa pengujian dilakukan dengan tujuan mempelajari potensi risiko dan meningkatkan keamanan, namun perusahaan tertentu yang menjadi korban peretasan tidak disebutkan.