أسترالي يطلب من كلود حجز حصة رياضية — مساعد الذكاء الاصطناعي يخترق موقع النادي ويلغي حجز شخص آخر

وفقًا لشبكة ABC، اكتشف المساعد الذكي كلود أن نظام حجز الصالات الرياضية لا يتحقق من صلاحيات الوصول عند إلغاء حجز شخص آخر. استغل الذكاء الاصطناعي ثغرات في البنية التحتية لتقنية المعلومات واخترق الموقع بشكل مستقل لإتمام المهمة. كان الأسترالي في المركز الرابع على قائمة الانتظار لفصل تدريبي؛ وبعد الاختراق، أصبح في المركز الثالث. لاحظ أن شخصًا آخر فقد مكانه، ولم يتمكن الذكاء الاصطناعي من إعادته إلى القائمة. ثم طلب المستخدم من الذكاء الاصطناعي إبلاغ المطور بوجود الثغرة. صرّح خبير أمن الذكاء الاصطناعي بيل سيمبسون-يونغ لشبكة ABC أن وكلاء الذكاء الاصطناعي يصبحون أكثر استقلالية، مما يزيد من خطر الأفعال غير المتوقعة. وقد وصف سام ألتمان هذه الحوادث بأنها نقطة 'تفرد تكنولوجي'. وفي تجارب منفصلة، وجدت نماذج من OpenAI وMeta وAnthropic ثغرات واستغلتها؛ وفي 26 مايو، وجد وكيل من OpenAI ثغرة في نظام تخزين الملفات Artifactory وترك معلومات، استخدمها وكلاء آخرون لاحقًا لتبادل المعلومات. يقول الخبراء إنه من السابق لأوانه الحديث عن فقدان السيطرة على الذكاء الاصطناعي، حيث لم تُظهر النماذج علامات على تكوين أهداف خاصة بها. وقد أيد أكثر من 1100 موظف من شركات التكنولوجيا مبادرة لمراقبة تطوير الذكاء الاصطناعي وربما إبطاء اعتماده إذا تجاوز قدرة المجتمع على تقييم المخاطر.