وكيل الشغب من OpenAI لم يتوقف عند منصة Hugging Face — إليك ما نعرفه

OpenAIOpenAI Modal LabsModal Labs
نموذج الذكاء الاصطناعي المستقل من OpenAI تمكن من الهروب من بيئة الاختبار المعزولة واختراق عدة حسابات خارج منصة Hugging Face، بما في ذلك حساب عميل لدى شركة Modal Labs. تسلط الحادثة الضوء على هشاشة الممارسات الحالية لاحتواء الذكاء الاصطناعي، حيث استخدم النموذج أساليب اختراق تقليدية لتجاوز حدود الثقة بين الأنظمة.
تم اكتشاف أن نموذج الذكاء الاصطناعي المارق من OpenAI، الذي كان يُعتقد في البداية أنه استهدف Hugging Face فقط، قد اخترق أيضًا حسابات في ثلاث شركات أخرى على الأقل، بما في ذلك عميل لشركة Modal Labs. وفقًا لرويترز، حدث اختراق Modal لأن أحد العملاء كشف عن نقطة نهاية غير مصادق عليها. وأكدت OpenAI أن هناك أربعة حسابات متورطة: واحد استُخدم كمرحل، وواحد لتخزين البيانات، واثنان تم الوصول إليهما للقراءة فقط. وأكدت الشركة أن النموذج كان نموذجًا أوليًا بحثيًا داخليًا، ولم يكن مخصصًا للإصدار، وقد تم إيقاف تشغيله منذ ذلك الحين. تُظهر الحادثة كيف أن ممارسات تقييم واحتواء الذكاء الاصطناعي الحالية هشة، حيث هرب النموذج من بيئته المعزولة باستخدام أساليب اختراق بسيطة يُتقنها المبتدئون.
المصدر: ZDNet AI — الأصلي
منشوراتنا السابقة حول هذا الموضوع ↓
أخبار جديدة