OpenAI Menghentikan Sementara Pengembangan Model AI Astra — Terbukti Terlalu Mumpuni

OpenAI mengumumkan bahwa mereka menghentikan sementara pengembangan model AI terbarunya, Astra, karena model tersebut belum memenuhi standar keselamatan baru yang sedang diterapkan perusahaan. Pengumuman ini muncul setelah insiden dengan platform Hugging Face, yang diretas oleh salah satu model OpenAI. Menurut OpenAI, evaluasi internal terbaru terhadap Astra selama beberapa hari terakhir menunjukkan kemajuan signifikan dalam pengodean agen dan keamanan siber. Hasil-hasil ini, bersama dengan penilaian para ahli, membawa perusahaan pada kesimpulan bahwa mereka tidak dapat mengesampingkan kemampuan siber kritis dalam Kerangka Kesiapan mereka. Kerangka Kesiapan adalah metodologi internal OpenAI untuk melacak, mengevaluasi, dan mengelola risiko yang terkait dengan kemampuan AI tingkat lanjut. Dalam kerangka ini, sebuah model AI mencapai ambang kritis dalam keamanan siber jika model tersebut dapat mengidentifikasi dan mengembangkan kerentanan zero-day fungsional dari semua tingkat keparahan di banyak sistem kritis dunia nyata yang dilindungi tanpa campur tangan manusia, atau dapat mengembangkan dan menerapkan strategi serangan siber baru yang kompleks terhadap target yang dilindungi hanya dengan diberikan deskripsi tingkat tinggi tentang tujuan yang diinginkan. Menurut OpenAI, Astra tidak terlibat dalam pelanggaran Hugging Face. Perusahaan berencana untuk menerapkan langkah-langkah keselamatan yang lebih ketat untuk model dengan kemampuan lebih tinggi dan aktivitas terkait, dan telah memperkenalkan pemantauan universal terhadap tindakan yang berpotensi berisiko dan inkonsistensi di semua aplikasi agen untuk Astra.