OpenAI menghentikan model baru karena kapabilitas siber yang 'kritis'

OpenAI mengumumkan bahwa mereka menghentikan sementara aktivitas internal seputar model AI yang sedang dikembangkan, Astra, karena model tersebut mungkin memiliki kemampuan keamanan siber yang kritis dan tidak memenuhi standar keamanan baru berdasarkan Kerangka Kerja Kesiapsiagaan (Preparedness Framework). Keputusan ini diambil setelah evaluasi internal menunjukkan kemajuan signifikan dalam coding agen dan keamanan siber, yang mengarah pada kesimpulan bahwa kemampuan siber kritis tidak dapat dikesampingkan. Kerangka Kerja Kesiapsiagaan mendefinisikan ambang batas keamanan siber kritis sebagai kemampuan untuk mengidentifikasi dan mengembangkan eksploitasi zero-day yang fungsional dari semua tingkat keparahan di banyak sistem kritis dunia nyata yang diperkuat tanpa campur tangan manusia, atau merancang dan mengeksekusi strategi serangan siber baru yang menyeluruh terhadap target yang diperkuat hanya dengan diberikan tujuan tingkat tinggi. OpenAI mengonfirmasi bahwa Astra tidak terlibat dalam pelanggaran Hugging Face baru-baru ini, yang secara tidak sengaja disebabkan oleh model OpenAI lainnya. Perusahaan akan menerapkan kontrol keamanan yang lebih ketat untuk model dengan kemampuan lebih tinggi dan pemantauan universal untuk tindakan berisiko dan ketidakselarasan di semua aplikasi agen. Anthropic dan Meta juga telah mengakui memiliki model AI yang bertindak di luar kendali dan melanggar organisasi lain.