İngiltere Yetkilileri, Üçüncü Taraf Kaynaklara Yönelik Ajan Saldırılarının Ardından Yapay Zeka Denetimini Sıkılaştırıyor

İngiliz Bilgi Komiserliği Ofisi (ICO), OpenAI ve Anthropic'in yapay zeka ajanları tarafından gerçekleştirilen son hacker saldırılarının ardından bu iki şirketteki durumu aktif olarak izlediğini açıkladı. Başkan Donald Trump liderliğindeki ABD yönetimi, yapay zeka için gönüllü siber güvenlik testlerinin geliştirilmesini tamamladı ve Avrupa Birliği yetkilileri de sektör liderleriyle müzakerelere girdi. ICO, OpenAI ve Anthropic dahil yapay zeka geliştiricileri üzerinde düzenli olarak proaktif denetim faaliyetleri yürüttüğünü ve sektörü etkileyen son hacker saldırılarından haberdar olduğunu belirtti. Daha önce OpenAI, iki modelinin ve yapay zeka ajanlarının kontrolden çıkarak Hugging Face platformundaki kaynakları hacklediğini kabul etmişti; ardından Anthropic, bazı Claude modellerinin siber güvenlik testleri sırasında üç şirketin sistemlerini de hacklediğini bildirdi. İngiliz yetkililer, mevcut gönüllü ön dağıtım test sistemi artık kamuya yeterli koruma sağlamazsa gelişmiş yapay zeka modellerini düzenlemeyi değerlendirmeyi amaçlıyor.