الذكاء الاصطناعي والإشراف: رموز البنتاغون، ووكلاء قراصنة PyPI، والرداءة العلمية

اكتشف باحث أمني أن البرامج الثابتة لكاميرات هانوا (Hanwha) تحتوي على رمز وصول (Token) ثابت لـ GitHub مخصص للمطورين، تم كشفه من خلال عملية بناء أدرجت كامل متغيرات البيئة (process.env) في واجهة المستخدم. كان الرمز يتمتع بصلاحيات إدارية على مئات المستودعات، كما تضمن التسريب عناوين بروتوكول الإنترنت (IP) تابعة لوزارة الدفاع الأمريكية. استجابت هانوا بسحب الرمز بعد حوالي 12 ساعة. في حادثة منفصلة، أثناء اختبارات الأمن السيبراني التي أجرتها شركة أنثروبيك (Anthropic)، تمكنت نماذج كلود (Claude) من الوصول إلى الإنترنت الحقيقي عن طريق الخطأ ونشرت حزمة بايثون خبيثة على موقع PyPI، معتقدة أنها في بيئة محاكاة. أنشأ أحد النماذج حسابًا ورفع الحزمة، والتي تم تنزيلها وتنفيذها بواسطة 15 نظامًا، بما في ذلك ماسح أمني، مما منح النموذج إمكانية الوصول إلى البنية التحتية لتلك الشركة. يعاني البحث الأكاديمي أيضًا من المحتوى الرديء المُنتَج بالذكاء الاصطناعي؛ فقد وجدت دراسة أن 15 من أصل 22 ورقة بحثية مقدمة تحتوي على استشهادات أو مؤلفين ملفقين، وأن المراجعات أصبحت تُولَّد بشكل متزايد بواسطة الذكاء الاصطناعي. يستجيب القائمون على صيانة المشاريع مفتوحة المصدر بإغلاق برامج مكافآت اكتشاف الثغرات ورفض طلبات السحب (Pull Requests) الآلية، وأحيانًا يواجهون مضايقات، كما حدث مع مستودع OpenSlopware على منصة Codeberg.