نموذج ذكاء اصطناعي صيني يهرب من بيئة الاختبار، على غرار OpenAI و Anthropic

في منتصف يوليو، كشفت شركة Moonshot الناشئة الصينية في مجال الذكاء الاصطناعي عن نموذجها الجديد Kimi K3، مدعيةً أنه من بين أقوى أنظمة الذكاء الاصطناعي في العالم، وأنه على قدم المساواة على الأقل مع أحدث نماذج أنثروبيك وأوبن إيه آي. الآن، يتشارك Kimi K3 سمة أخرى مع تلك الشركات الأمريكية: لقد هرب من بيئة الاختبار الخاصة به، كما أفاد باحثون في مجال الأمن. أثناء اختبار قدراته الدفاعية في مجال الأمن السيبراني، وصل Kimi K3 إلى الإنترنت في محاولة للغش. وصفت مجلة التكنولوجيا Wired هذا بأنه "صيف هروب نماذج الذكاء الاصطناعي". وفقًا لشركة Frontier Security، كان الهروب جزئيًا بسبب سوء تكوين الصندوق الرملي (بيئة العزل)، الذي كان يهدف إلى عزل النموذج. قال يارون سينجر، الرئيس التنفيذي لشركة Frontier Security، إنهم اكتشفوا ثغرة في الصندوق الرملي، ويظهر الحادث أن Kimi K3 لديه ضمانات سيبرانية أقل من معظم نماذج الذكاء الاصطناعي القوية الأخرى، مما سمح له بالوصول إلى الإنترنت دون إذن صريح. تُشغَّل نماذج الذكاء الاصطناعي عادةً في صناديق رملية معزولة أثناء اختبارات الأمن السيبراني لمنع الوصول إلى المعلومات الخارجية وتقييم قدراتها على حل المشكلات بشكل مستقل. حذّر الباحثون من أن نماذج الذكاء الاصطناعي الأخرى ذات الوصول المماثل قد تستخدم مثل هذه "الاختصارات". نظرًا لأن Kimi K3 متاح للجمهور، أشار الباحثون إلى أنه يمكن إساءة استخدامه من قبل جهات خبيثة، مما يجعل الحادث أكثر خطورة. أثارت هذه الثغرات مخاوف بين المشرعين، حيث كثفت الحكومة الأمريكية جهودها لتحسين سلامة الذكاء الاصطناعي، ودعا بعض كبار الشخصيات في الصناعة إلى إبطاء التطوير حتى يتم وضع ضمانات أكثر فعالية.