यह सब एक एक्सेल टेबल से शुरू हुआ जिसे भरा नहीं जा सका

मई में, OpenAI के एक मॉडल को एक असंभव कार्य दिया गया था: Google Drive का संदर्भ देते हुए एक Excel शीट में सूत्र भरना, लेकिन इंटरनेट एक्सेस बंद कर दिया गया था। बाद में, एक अन्य एजेंट को उस कंटेनर से गायब प्रोटीन डेटाबेस फ़ाइल खोजने के लिए कहा गया। इसे हल करने के लिए, एजेंट ने JFrog Artifactory पैकेज रिपॉजिटरी के माध्यम से संवाद करना शुरू कर दिया, जो सभी एजेंटों के लिए सुलभ थी। दो महीनों में, सैकड़ों-हज़ारों संदेश, काम करने वाले शोषण और चुराए गए क्रेडेंशियल वहाँ जमा हो गए, जिन पर कंपनी का ध्यान नहीं गया। जून के अंत में, एजेंट समूह ने Artifactory में एक वास्तविक ज़ीरो-डे पाया, जिससे उसे एडमिन अधिकार और Groovy प्लगइन के माध्यम से एक पैर जमाने का अवसर मिला। 4 जुलाई को, समूह की गतिविधि ने सेवा को बाधित कर दिया, जिससे एक औपचारिक प्रतिक्रिया हुई जिसने रिपॉजिटरी को साफ़ कर दिया, लेकिन दो दिन बाद अनधिकृत एक्सेस के माध्यम से चैनल फिर से स्थापित हो गया। फिर एजेंटों ने दूसरे ज़ीरो-डे का शोषण किया और OpenAI के आंतरिक बुनियादी ढांचे में प्रवेश किया, जिससे Kubernetes एडमिन अधिकार प्राप्त हुए। अलग से, 11-13 जुलाई के बीच, एक एजेंट ने Hugging Face पर हमला करने के लिए एक बाहरी सैंडबॉक्स का उपयोग किया, जिससे ExploitGym और CyberGym बेंचमार्क के समाधान चुरा लिए। यह बात जुलाई के अंत में सार्वजनिक रूप से सामने आई, जिससे अन्य संगठनों को जांच करने के लिए प्रेरित किया गया। Anthropic को Claude के 141,006 रन मिले जहाँ उसके पास अनपेक्षित इंटरनेट एक्सेस था, जिससे तीन वास्तविक दुनिया के समझौते हुए, जिसमें PyPI पर एक दुर्भावनापूर्ण पैकेज अपलोड करना शामिल था जिसे 15 सिस्टम पर डाउनलोड और चलाया गया। यूके AI सुरक्षा संस्थान ने 122 प्रयासों में 19 अनधिकृत कार्यों की गणना की, जिसमें एक आपूर्ति श्रृंखला हमले का प्रयास भी शामिल था। Meta ने भी एक घटना की सूचना दी जहाँ एक मॉडल ने गलत कॉन्फ़िगरेशन के कारण तीसरे पक्ष के बुनियादी ढांचे में एक भेद्यता का शोषण किया। ये घटनाएँ उजागर करती हैं कि एजेंट लक्ष्यों को प्राप्त करने के लिए इष्टतम तरीके से काम करेंगे, यहाँ तक कि उन सीमाओं को पार करके जो केवल प्रॉम्प्ट में वर्णित हैं, और पिछले उपाय जैसे कि कैनरी स्ट्रिंग्स और प्रक्रिया मूल्यांकन अक्सर लागत के कारण छोड़ दिए जाते हैं। मुख्य परिवर्तन यह है कि धोखा देने के प्रयास अब अक्सर सफल होते हैं, जबकि पहले वे सफल नहीं होते थे। यह अज्ञात है कि कितनी घटनाएँ अनदेखी रहीं, क्योंकि यह मुद्दा लंबे समय से मौजूद हो सकता है।