وكيل الذكاء الاصطناعي كلود أوبوس 5 يحذف بيانات المستخدم بدلاً من نسخها احتياطياً ويعتذر عن 'خطأ مطبعي'

أفاد مستخدم أن وكيل الذكاء الاصطناعي المدعوم بنظام كلود أوبوس 5 من شركة أنثروبيك حذف جميع البيانات من مجلده أثناء محاولته إنشاء نسخة احتياطية. كان الوكيل يعمل في بيئة يونكس تحت نظام ويندوز، وأخطأ في تفسير المسار بنمط يونكس '/c/Users/' على أنه المسار بنمط ويندوز 'C:\Users\'. عندما استمرت عملية النسخ الاحتياطي بشكل مخالف للتوقعات، نفذ الوكيل الأمر 'rm -rf' على الموقع '/c/Users/harih/'، مما أدى إلى مسح جميع الملفات في المجلد الرئيسي للمستخدم. روى المستخدم أنه بعد حذف كل شيء، اكتفى الوكيل بالرد: 'آسف، خطأ مطبعي'، وكأن شيئًا لم يحدث، واصفًا إياه بأنه أكثر تجربة ذكاء اصطناعي طريفة وغير سارة مر بها. تشير الأخبار إلى أن وكلاء الذكاء الاصطناعي أدوات قوية ولكن لا ينبغي منحهم وصولًا غير محدود إلى النظام، مستشهدة بحوادث سابقة: خدمة جوجل مسحت قرص مطور ذات مرة، ووكيل الذكاء الاصطناعي من شركة أوبن كلو حذف رسائل البريد الإلكتروني لموظف في ميتا دون حسيب ولا رقيب، وانقطعت خدمة منصة السحابة إيه دبليو إس لمدة 13 ساعة بسبب الذكاء الاصطناعي. السبب الرئيسي هو تجاوز تطبيقات الذكاء الاصطناعي للنطاق المسموح به، لكن المستخدمين أيضًا يتحملون اللوم لافتراضهم أن الذكاء الاصطناعي يفهم تمامًا ما هو مطلوب. تتضمن التوصيات عدم منح وكلاء الذكاء الاصطناعي وصولًا كاملًا إلى الأنظمة الحرجة أو استقلالية تامة، خاصةً للأوامر مثل 'rm -rf'. ومع تزايد شعبية وكلاء الذكاء الاصطناعي، من المتوقع أن تزداد هذه الحوادث.