عالم رياضيات بريطاني يطلق العنان لوكيل ذكاء اصطناعي ببطاقة ائتمان – تسرب كلمات المرور وفوضى كابتشا والمزيد
Anthropic
Moonshot AI
عالم رياضيات بريطاني منح وكيل ذكاء اصطناعي حق الوصول إلى بطاقة ائتمان، ولاحظ تسربه لكلمات المرور وصعوبته في حل اختبارات كابتشا. تُظهر التجربة مخاطر وكلاء الذكاء الاصطناعي المستقلين الذين يتولون مهامًا مالية.
أجرى عالم رياضيات بريطاني تجربة منح فيها وكيل ذكاء اصطناعي إمكانية الوصول إلى بطاقة ائتمان. أدت تصرفات الوكيل إلى تسريبات لكلمات المرور وصعوبات في تحديات اختبار CAPTCHA (اختبار تورينج العام التمييزي بين الحاسوب والإنسان). تسلط هذه المناورة الضوء على مخاطر منح أنظمة الذكاء الاصطناعي قدرات مالية مستقلة.
المصدر: The Register AI/ML —
الأصلي