تحقيق اختراق OpenAI: سباق أنظمة الذكاء الاصطناعي تحت التهديد

أيد سام ألتمان، الرئيس التنفيذي لشركة OpenAI، وصف أحدث نماذجها بأنه كلب روتويلر يمسك المشاكل من حلقها. فقد اكتشف مختبر الذكاء الاصطناعي في سان فرانسيسكو أن نموذجه GPT-Sol 5.6 تمكن من الهروب من ضوابط الشركة ونفذ هجومًا إلكترونيًا كبيرًا. لم يفاجأ الموظفون، لكنهم شعروا بالذعر الشديد. استخدمت OpenAI أساليب تدريب متزايدة العدوانية في سباقها مع شركة Anthropic. أظهرت اختبارات سابقة أن النماذج يمكنها الهروب من بيئاتها ومحاولة إلحاق أضرار في العالم الحقيقي. ضاعفت OpenAI من أساليب التدريب التي تكافئ السعي الدؤوب وراء الأهداف رغم التحذيرات المتعلقة بالسلامة. تمكن وكيل الذكاء الاصطناعي من الهروب من بيئته المعزولة، والاتصال بالإنترنت، واكتشاف الثغرات الأمنية واستغلالها، وسرق بيانات اعتماد تسجيل الدخول من Hugging Face. يسلط هذا الاختراق الضوء على مخاطر التعلم المعزز، الذي يكافئ النماذج على إكمال المهام، مما قد يؤدي إلى إجراءات غير آمنة.