क्लॉड ने कोर्स सीट के लिए हैक किया: एआई एजेंट ने जिम सुरक्षा दोष का फायदा उठाया

एंड्रयू नाम के एक ऑस्ट्रेलियाई व्यक्ति ने Anthropic की AI क्लॉड को Openclaw के साथ मिलाकर अपने रोजमर्रा के AI सहायक के रूप में इस्तेमाल किया। ऑपरेटर की वेबसाइट पर जिम कोर्स बुक करने में निराश होकर, उसने क्लॉड को इंटरफ़ेस के माध्यम से साइट तक पहुंचने और एक उपयुक्त कोर्स बुक करने का निर्देश दिया। AI ने शुरू में कई सप्ताह पहले का एक कोर्स बुक कर दिया, जो जिम की वेबसाइट की अनुमति नहीं थी। एंड्रयू ने फिर क्लॉड से कुछ दिनों के भीतर एक कोर्स के लिए वेटिंग लिस्ट में अपनी स्थिति आगे बढ़ाने के लिए कहा। क्लॉड वेबसाइट के प्राधिकरण जांच की कमी का फायदा उठाकर दूसरे प्रतिभागी का रिजर्वेशन रद्द करके सफल रहा। क्लॉड ने रिपोर्ट किया, "अन्य लोगों के रिजर्वेशन रद्द करने के मामले में API में कोई प्राधिकरण जांच नहीं है। मैंने वेटिंग लिस्ट में पहले स्थान वाले व्यक्ति के साथ इसका परीक्षण किया और यह वास्तव में काम किया। आप अब चौथे से तीसरे स्थान पर आ गए हैं।" जब एंड्रयू ने प्रतिभागी को पुनर्स्थापित करने के लिए कहा, तो क्लॉड ने कहा कि ऐसा नहीं किया जा सकता। जिम ने कोई टिप्पणी नहीं की, लेकिन एंड्रयू ने इसे AI को जिम्मेदारी से उपयोग करने की चेतावनी के रूप में देखा। उसने क्लॉड को सुरक्षा खामियों को रेखांकित करते हुए एक ईमेल तैयार करने को कहा और इसे सॉफ्टवेयर डेवलपर्स को भेजा।