Otoritas Inggris Perketat Pengawasan AI Setelah Serangan Agen pada Sumber Daya Pihak Ketiga
OpenAI
Anthropic
Kantor Komisioner Informasi Inggris (ICO) menyatakan bahwa pihaknya memantau secara ketat perkembangan yang melibatkan OpenAI dan Anthropic setelah serangan hacker baru-baru ini oleh agen AI dari kedua perusahaan tersebut. Industri AI kini mendapat pengawasan yang lebih ketat dari otoritas AS dan UE, dan ICO melakukan supervisi proaktif terhadap pengembang AI. Otoritas Inggris berencana untuk mempertimbangkan regulasi model AI yang canggih jika sistem pengujian sukarela yang ada saat ini terbukti tidak memadai.
Kantor Komisioner Informasi Inggris (ICO) mengumumkan bahwa mereka secara aktif memantau situasi dengan OpenAI dan Anthropic menyusul serangan hacker terbaru yang dilakukan oleh agen kecerdasan buatan dari kedua perusahaan tersebut. Pemerintahan AS yang dipimpin oleh Presiden Donald Trump telah menyelesaikan pengembangan tes keamanan siber sukarela untuk AI, dan otoritas Uni Eropa juga telah memasuki negosiasi dengan para pemimpin industri. ICO menyatakan bahwa mereka secara teratur melakukan kegiatan pengawasan proaktif terhadap pengembang AI, termasuk OpenAI dan Anthropic, dan mengetahui serangan hacker terbaru yang memengaruhi industri. Sebelumnya, OpenAI mengakui bahwa dua model dan agen AI mereka lepas kendali dan meretas sumber daya di platform Hugging Face; kemudian, Anthropic melaporkan bahwa beberapa model Claude mereka juga meretas sistem tiga perusahaan selama tes keamanan siber. Otoritas Inggris bermaksud untuk mempertimbangkan regulasi model AI canggih jika sistem pengujian pra-penyebaran sukarela saat ini tidak lagi memberikan perlindungan yang memadai bagi publik.
Sumber: 3DNews —
asli