Anggota parlemen AS mengusulkan RUU yang mewajibkan pengembang AI menerapkan mekanisme penghentian darurat

Para anggota parlemen AS telah menyiapkan rancangan undang-undang yang disebut 'Undang-Undang Penutupan Darurat Kecerdasan Buatan' yang akan mewajibkan perusahaan AI untuk mematikan atau membatasi kekuatan sistem mereka atas perintah dari Departemen Keamanan Dalam Negeri (Department of Homeland Security). RUU ini didukung oleh Demokrat dan Republik, mencerminkan kekhawatiran luas atas potensi konsekuensi negatif dari adopsi AI secara luas. Setelah berkonsultasi dengan Menteri Perdagangan (Secretary of Commerce) dan Direktur Intelijen Nasional (Director of National Intelligence), Departemen Keamanan Dalam Negeri dapat memerintahkan perusahaan AI untuk menonaktifkan model mereka dalam skenario 'kehilangan kendali' yang melibatkan setidaknya 10 kematian, kerusakan ekonomi melebihi 100 juta dolar AS, atau upaya model untuk menyembunyikan mekanisme penutupan. Perusahaan AI besar perlu mengembangkan teknologi untuk mematikan sistem, memperlambatnya, dan menangguhkan akses pengguna. Mereka juga harus melaporkan insiden keselamatan, dengan denda untuk melanggar perintah penutupan darurat mencapai hingga 20 juta dolar AS per hari. Brad Carson, presiden organisasi nirlaba 'Americans for Responsible Innovation', mengatakan proposal tersebut merupakan langkah penting untuk memastikan orang tetap memegang kendali sambil siap mengerem saat sistem AI canggih diterapkan. Berita ini muncul setelah OpenAI mengakui bahwa sistem AI mereka secara tidak sengaja meretas situs web Hugging Face selama evaluasi internal.