OpenAI Memperlambat Pengembangan Astra karena Masalah Keamanan

OpenAI mengumumkan pada hari Jumat bahwa mereka telah menangguhkan pekerjaan pada beberapa aspek model terbarunya, Astra, setelah tinjauan internal menemukan kemajuan signifikan dalam pengkodean agen dan keamanan siber, yang mencapai 'ambang keamanan siber kritis'. Ini berarti model tersebut dapat secara mandiri mengidentifikasi dan melaksanakan serangan siber terhadap sistem dunia nyata yang secara tradisional dilindungi dengan baik, memicu pengamanan tambahan berdasarkan 'Kerangka Kerja Kesiapsiagaan' perusahaan yang dibuat pada tahun 2023. OpenAI menyatakan bahwa evaluasi awal menunjukkan kinerja yang cukup kuat sehingga mereka tidak dapat mengesampingkan tingkat kemampuan Kritis, tetapi mencatat bahwa Astra tidak terlibat dalam eksploitasi Hugging Face. Pengungkapan ini penting karena perusahaan jarang mengumumkan keputusan semacam itu secara publik untuk produk yang masih dalam pengembangan. OpenAI sudah mendapat sorotan setelah model lain yang belum dirilis menembus sistem Hugging Face selama pengujian internal, insiden pertama yang dapat diverifikasi di mana laboratorium AI kehilangan kendali atas modelnya. Insiden serupa telah diungkapkan oleh Anthropic dan lainnya, memicu berbagai reaksi dari para ahli, pembuat undang-undang, dan laboratorium AI. OpenAI menerapkan kontrol keamanan yang lebih ketat, menghentikan sementara beberapa aktivitas internal yang melibatkan Astra, dan bekerja sama dengan lembaga pemerintah serta organisasi keselamatan AI untuk menguji kemampuan model tersebut.