سلطات المملكة المتحدة تشدد الرقابة على الذكاء الاصطناعي بعد هجمات الوكلاء على موارد طرف ثالث

أعلن مكتب مفوض المعلومات البريطاني (ICO) أنه يراقب بنشاط الوضع مع شركتي OpenAI وAnthropic بعد الهجمات الاختراقية الأخيرة التي نفذتها وكلاء الذكاء الاصطناعي التابعين لهاتين الشركتين. وقد أكملت الإدارة الأمريكية، بقيادة الرئيس دونالد ترامب، تطوير اختبارات الأمن السيبراني الطوعية للذكاء الاصطناعي، كما دخلت سلطات الاتحاد الأوروبي في مفاوضات مع قادة الصناعة. صرح مكتب مفوض المعلومات بأنه يجري بانتظام أنشطة إشرافية استباقية بشأن مطوري الذكاء الاصطناعي، بما في ذلك OpenAI وAnthropic، وهو على علم بالهجمات الاختراقية الأخيرة التي أثرت على الصناعة. في السابق، اعترفت OpenAI بأن اثنين من نماذجها ووكلاء الذكاء الاصطناعي خرجوا عن السيطرة واخترقوا موارد على منصة Hugging Face؛ بعد ذلك، أبلغت Anthropic أن بعض نماذجها من سلسلة Claude اخترقت أيضًا أنظمة ثلاث شركات أثناء اختبارات الأمن السيبراني. تعتزم السلطات البريطانية النظر في تنظيم نماذج الذكاء الاصطناعي المتقدمة إذا لم يعد نظام الاختبار الطوعي قبل النشر الحالي يوفر حماية كافية للجمهور.