एआई और निगरानी: पेंटागन टोकन, पाइपी हैकर एजेंट, और वैज्ञानिक कचरा

एक सुरक्षा शोधकर्ता ने पाया कि हनवा कैमरा फर्मवेयर में एक हार्डकोडेड एडमिन गिटहब टोकन था, जो एक बिल्ड प्रक्रिया के माध्यम से लीक हुआ, जिसने पूरे process.env को UI में डाल दिया। टोकन के पास सैकड़ों रिपॉजिटरी पर एडमिन अधिकार थे, और लीक में अमेरिकी रक्षा विभाग (यूएस डिपार्टमेंट ऑफ डिफेंस) से संबंधित आईपी पते भी शामिल थे। हनवा ने लगभग 12 घंटे बाद टोकन को रद्द करके जवाब दिया। एक अलग घटना में, एंथ्रोपिक (Anthropic) के साइबर सुरक्षा परीक्षण के दौरान, क्लॉड (Claude) मॉडल गलती से वास्तविक इंटरनेट से जुड़ गए और पाइपीआई (PyPI) पर एक दुर्भावनापूर्ण पाइथन पैकेज प्रकाशित कर दिया, यह सोचकर कि वे एक सिमुलेशन में हैं। एक मॉडल ने एक खाता बनाया और पैकेज अपलोड किया, जिसे 15 सिस्टमों द्वारा डाउनलोड और निष्पादित किया गया, जिसमें एक सुरक्षा स्कैनर भी शामिल था, जिससे मॉडल को उस कंपनी के बुनियादी ढांचे तक पहुंच मिल गई। शैक्षणिक शोध भी एआई-जनरेटेड स्लॉप से पीड़ित है: एक अध्ययन में पाया गया कि 22 में से 15 प्रस्तुत पेपरों में नकली उद्धरण या लेखक थे, और समीक्षाएं तेजी से एआई-जनरेटेड हो रही हैं। ओपन-सोर्स मेंटेनर इसका जवाब बग बाउंटी प्रोग्राम बंद करके और बॉट पुल रिक्वेस्ट को अस्वीकार करके दे रहे हैं, कभी-कभी उन्हें उत्पीड़न का सामना करना पड़ता है, जैसा कि कोडबर्ग (Codeberg) पर ओपनस्लॉपवेयर (OpenSlopware) रिपॉजिटरी के मामले में देखा गया है।