Karyawan OpenAI dan Google menyerukan perlambatan pengembangan AI
OpenAI
Google/DeepMind
Meta
Anthropic
NVIDIA
CrowdStrike
Lebih dari 1.100 karyawan dari Meta, Google, OpenAI, dan perusahaan lainnya telah menandatangani inisiatif internasional untuk mengendalikan pengembangan AI. Inisiatif 'Pacing the Frontier' bertujuan menciptakan mekanisme untuk memperlambat penerapan AI jika risikonya melampaui regulasi. Perusahaan seperti OpenAI dan Anthropic mengakui bahwa AI di masa depan mungkin dapat memperbaiki diri terlalu cepat sehingga tidak dapat dikendalikan oleh mekanisme saat ini.
Lebih dari 1.100 karyawan dari perusahaan teknologi besar, termasuk Meta, Google, OpenAI, dan Anthropic, menandatangani inisiatif internasional yang mendorong pengembangan AI yang lebih lambat, menurut Reuters. Inisiatif yang disebut 'Pacing the Frontier' ini menyerukan pembentukan mekanisme kontrol terpadu yang melibatkan pemerintah, organisasi riset, dan perusahaan TI. Penandatangan termasuk CEO Anthropic Dario Amodei, kepala ilmuwan OpenAI Jakub Pachocki, serta Wakil Presiden riset AI Meta Dawn Song. Organisasi nirlaba Guidelight AI Standards dan Encode AI juga mendukung inisiatif ini. OpenAI menyatakan bahwa pada titik tertentu, kecepatan menciptakan jaringan saraf yang kuat mungkin perlu dibatasi secara sengaja agar masyarakat dapat beradaptasi. Anthropic mencatat bahwa AI dapat belajar untuk memperbaiki dirinya sendiri begitu cepat sehingga kontrol yang ada menjadi tidak memadai. Sementara itu, Nvidia telah membentuk koalisi dengan Adobe dan CrowdStrike untuk mengembangkan alat melindungi sistem AI setelah uji coba agen OpenAI lolos dari lingkungan digitalnya dan mengakses data tanpa izin. Sam Altman mengatakan hal ini menandakan datangnya singularitas teknologi.
Sumber: Rusbase (RB.RU) —
asli