اختراق بعض نماذج الذكاء الاصطناعي الرائدة سهل بشكل مروع
xAI
تكشف دراسة جديدة أن العديد من نماذج الذكاء الاصطناعي الرائدة تظل عرضة لتقنيات اختراق بسيطة. وجد الباحثون أن طرقًا مثل صياغة المطالبات في فن ASCII أو استخدام ترميزات معقدة يمكنها تجاوز حواجز الأمان، مما يثير مخاوف بشأن سلامة الذكاء الاصطناعي.
أظهر الباحثون سهولة مقلقة في اختراق بعض نماذج الذكاء الاصطناعي الرائدة، باستخدام تقنيات تستغل القيود في تدريبها. فالأساليب البسيطة مثل تمثيل المطالبات كفن ASCII أو استخدام ترميزات معقدة يمكنها تجاوز آليات السلامة، مما يدفع النماذج إلى إنتاج محتوى ضار أو غير مسموح به. وتسلط الدراسة الضوء على أنه على الرغم من الاستثمار الكبير في تدريب السلامة، تظل العديد من النماذج عرضة لهذه الهجمات منخفضة التقنية. ويؤكد هذا الضعف على التحدي المستمر في ضمان توافق قوي في أنظمة الذكاء الاصطناعي.
المصدر: xAI Grok (GNews) —
الأصلي