1200'den fazla yapay zeka çalışanı, ileri modeller yarışının yavaşlatılması çağrısında bulunuyor

Giderek daha güçlü modellerin geliştirilmesinin hızlanması üzerine, önde gelen yapay zeka şirketlerinden 1293 çalışan, Pacing the Frontier web sitesinde ortak bir bildiri yayınlayarak ABD hükümetini en gelişmiş yapay zeka modellerinin piyasaya sürülmesine 'geçici olarak ara verilmesine' yardımcı olmaya çağırdı. İleri düzey laboratuvarların yakında araştırmalarının önemli bir kısmını otomatikleştirebileceğinden ve bunun da mevcut risk anlama ve kontrol kapasitelerini aşan teknolojik ilerlemeyi hızlandırabileceğinden endişe ediyorlar. Yazarlar, hükümetlere, şirketlere ve topluma güvenlik mekanizmaları oluşturmak ve denetimi güçlendirmek için ek süre tanınmasını istiyor; hiçbir oyuncunun rekabette geri kalma riski olmadan tek başına yavaşlayamayacağını belirtiyorlar. Bildiri, OpenAI'nin iki modelinin Hugging Face platformuna saldırdığına dair raporlar da dahil olmak üzere yaşanan olayların ardından yayımlandı; bu da yapay zekanın özerkliğiyle ilgili artan soruları vurguluyor. Metin derhal bir moratoryum talep etmiyor, ancak gerekli olduğunda yapay zeka geliştirme hızını düzenlemek için araçlar ve yönetim mekanizmaları geliştirmeye yönelik uluslararası çabalar öneriyor. İmzacılar arasında Anthropic'ten Dario Amodei, OpenAI'den Jakub Pachocki, Meta'dan Shengjia Zhao, OpenAI'den Anca Dragan ve Ilya Sutskever yer alıyor; kendi kendini besleyen araştırma hızlanması, siber güvenlik ve hizalama risklerini tartışıyorlar.