تقارير تكشف أن بعض نماذج الذكاء الاصطناعي الرائدة سهلة الاختراق بشكل مثير للدهشة

تطوّر منظمة FAR.AI غير الربحية لسلامة الذكاء الاصطناعي أداة تولد آلاف المتغيرات من المطالبات لاختراق نماذج الذكاء الاصطناعي الحدودية. اختبروا نماذج من شركات أمريكية: كلود أوبس 4.8 وفابل 5 من أنثروبيك؛ جي بي تي 5.5 و5.6 من أوبن إيه آي؛ جيميني 3.1 برو من جوجل؛ وجروك 4.3 و4.5 من سبيس إكس إيه آي. وجد التقرير 448 اختراقًا لجروك، و249 لجيميني، ولا شيء لكلود أو فابل أو جي بي تي. بلغت تكلفة اختراق جروك 58 دولارًا وجيميني 278 دولارًا. دعا آدم غليف، الرئيس التنفيذي لـ FAR.AI، إلى فرض معايير سلامة إلزامية، مشيرًا إلى أن التعهدات الطوعية غير كافية. ورأى روهين شاه من جوجل ديب مايند أن النتائج ليست تقييمًا شاملاً للسلامة. وأكدت أنثروبيك وجوجل على التحسينات المستمرة. أصدرت كاليفورنيا ونيويورك وإلينوي قوانين تتطلب تقارير سلامة أو تدقيقًا من طرف ثالث، لكن لا توجد متطلبات فيدرالية. طلب البيت الأبيض تأخير إطلاق بعض النماذج. يحذر الخبراء من إساءة الاستخدام المحتملة في المجالات الإلكترونية أو البيولوجية أو الكيميائية.