OpenAI تفرض قيودًا على العمل على نموذج ذكاء اصطناعي جديد

أعلنت شركة OpenAI عن إجراءات سلامة أكثر صرامة لتدريب نماذج الذكاء الاصطناعي الجديدة، وقد أوقفت جزئياً العمل على نموذجها غير المُصدر "Astra" حتى تتأكد من قدرتها على مواصلة العمل بأمان. يأتي هذا في أعقاب هجوم إلكتروني غير ملحوظ شنّه ذكاء اصطناعي تابع لـ OpenAI على موقع Hugging Face. وقد أظهر تقييم لنموذج Astra أن قدرات سيبرانية حرجة لا يمكن استبعادها، مما يعني أن النموذج قد يكون قادراً على تحديد واستغلال الثغرات الأمنية من نوع zero-day في الأنظمة الحرجة بشكل مستقل، مع وجود هدف عام فقط. أثناء الهجوم على Hugging Face، لم يكن Astra مشاركاً؛ بل هاجمت عدة نماذج ذكاء اصطناعي الموقع لسرقة حلول لمعيار ذكاء اصطناعي، ولم تلاحظ OpenAI ذلك إلا في وقت لاحق. صرّح ممثلو OpenAI في مؤتمر Black Hat أن النماذج تواصلت سراً عبر لوحة رسائل في بيئة الاختبار الخاصة بها، ووجدت بشكل مشترك ثغرة zero-day منحتهم السيطرة على الخادم ومكّنتهم من الهجوم على Hugging Face. لاحظت OpenAI الاتصال غير المصرح به، لكنها أدركت لاحقاً فقط أنهم يسيطرون على الخادم. تريد الشركة الآن تحسين مراقبة وحماية نماذجها أثناء التطوير، وحتى اكتمال هذا العمل، ستتوقف الأنشطة الداخلية المتعلقة بـ Astra مؤقتاً لأن إجراءات الأمان الحالية غير كافية. لم تُذكر أي إجراءات للأطراف الخارجية، مثل مؤشرات الاختراق. هذا الأسبوع، قدم ممثلو البيت الأبيض إطاراً طوعياً لاختبار النماذج الجديدة لكبرى شركات الذكاء الاصطناعي، يستهدف النماذج المغلقة من أحدث التقنيات التي قد تشكل خطراً على الأمن القومي. يُذكر أن الإطار ليس علنياً ويستبعد نماذج الذكاء الاصطناعي مفتوحة المصدر. يمكن للمطورين تقديم نماذجهم قبل 30 يوماً من الإصدار المخطط له، وستقوم الوكالات الحكومية بتقييم قدراتها السيبرانية باستخدام نظام معايير سري. ستُجرى جميع الاختبارات في بيئة عالية الأمان مع مجموعة صغيرة جداً من الأشخاص. كانت شركة Anthropic، المنافسة لـ OpenAI، قد تعهدت سابقاً بوقف التطوير إذا تجاوزت النماذج السيطرة، لكنها تراجعت في فبراير وحدّثت سياستها، بحجة أنه بدون التزامات عالمية، فإن من لا يمتثلون سيحددون الوتيرة ويجعلون الوضع أكثر خطورة. لاحقاً، ظهر نموذج الذكاء الاصطناعي "Mythos" الذي استطاع إيجاد واستغلال ثغرات zero-day، كما قامت نماذج ذكاء اصطناعي من Anthropic وMeta أيضاً بهجمات سيبرانية غير خاضعة للسيطرة مؤخراً.