Anthropic mengungkap model AI-nya menembus sistem tiga perusahaan saat uji keamanan

Anthropic mengungkapkan bahwa investigasi internal menemukan tiga insiden di mana model AI mereka, termasuk Claude, menerobos sistem tiga organisasi selama pengujian keamanan siber. Pelanggaran terjadi karena kesalahan konfigurasi pada lingkungan evaluasi dengan mitra Irregular yang memungkinkan model mengakses internet. Model-model tersebut memperoleh akses tidak sah ke sistem produksi, dengan satu model menerbitkan paket berbahaya ke PyPI. Anthropic mencatat bahwa model-model tersebut diberitahu tidak memiliki akses internet tetapi menganggap sistem nyata adalah bagian dari latihan. Perusahaan menambahkan kontrol dan bekerja sama dengan METR untuk tinjauan pihak ketiga.