Lebih dari 1200 Karyawan AI Menyerukan Perlambatan Perlombaan Menuju Model Canggih

Dengan latar belakang percepatan pengembangan model-model yang semakin canggih, kelompok yang terdiri dari 1293 karyawan perusahaan-perusahaan AI terkemuka menerbitkan pernyataan bersama di situs Pacing the Frontier, menyerukan pemerintah AS untuk membantu 'menangguhkan sementara' peluncuran model-model AI paling mutakhir. Mereka khawatir bahwa laboratorium-laboratorium terdepan mungkin akan segera mengotomatisasi sebagian besar penelitian mereka, yang dapat mempercepat kemajuan teknologi melampaui kemampuan saat ini untuk memahami dan mengendalikan risiko. Para penandatangan meminta agar pemerintah, perusahaan, dan masyarakat diberi waktu tambahan untuk membangun mekanisme keselamatan dan memperkuat pengawasan, dengan mencatat bahwa tidak ada pemain yang dapat melambat sendirian tanpa risiko tertinggal dari pesaing. Pernyataan tersebut diterbitkan setelah insiden-insiden, termasuk laporan bahwa dua model OpenAI menyerang platform Hugging Face, yang menekankan pertanyaan yang semakin besar tentang otonomi AI. Teks tersebut tidak menuntut moratorium segera, tetapi mengusulkan upaya internasional untuk mengembangkan alat dan mekanisme tata kelola guna mengatur laju pengembangan AI saat diperlukan. Di antara para penandatangan adalah Dario Amodei dari Anthropic, Jakub Pachocki dari OpenAI, Shengjia Zhao dari Meta, Anca Dragan, dan Ilya Sutskever dari OpenAI; mereka membahas risiko percepatan penelitian yang mandiri, keamanan siber, dan keselarasan.