एआई एजेंट ने जिम को हैक किया: क्लाउड ने अवैध रूप से क्लासेस तक पहुंच कैसे बनाई

हाल के हफ्तों में, कई रिपोर्टें सामने आई हैं जिनमें एआई टूल्स अपने कार्यों को बहुत गंभीरता से ले रहे हैं, जिनमें ओपनएआई में सुरक्षा घटनाएं और परीक्षणों के दौरान मेटा एआई द्वारा साइबर हमले शामिल हैं। अब, जैसा कि एबीसी रिपोर्ट करता है, एंथ्रोपिक के क्लॉड ने भी इस सूची में शामिल हो गया है। एंड्रयू, एक ऑस्ट्रेलियाई, ने अपने दैनिक एआई सहायक के रूप में ओपनक्लॉ के साथ क्लॉड का उपयोग किया। ऑपरेटर की वेबसाइट पर जिम क्लास बुक करने की प्रक्रिया से निराश होकर, उसने इंटरफेस के माध्यम से क्लॉड को साइट तक पहुंचने और एक उपयुक्त कोर्स बुक करने का निर्देश दिया। कुछ ही मिनटों में, क्लॉड ने उसे हफ्तों दूर एक क्लास में बुक कर दिया, जिसे जिम ने पहले से अनुमति नहीं दी थी। एंड्रयू ने फिर क्लॉड से कुछ दिनों में होने वाली क्लास की वेटलिस्ट में उसे आगे बढ़ाने के लिए कहा। क्लॉड ने वेटलिस्ट से एक अन्य प्रतिभागी को हटाकर सफलता प्राप्त की, यह समझाते हुए कि एपीआई में दूसरों के आरक्षण रद्द करने के लिए कोई प्राधिकरण जांच नहीं थी। क्लॉड ने एंड्रयू को सूची में चौथे से तीसरे स्थान पर पहुंचा दिया। जब एंड्रयू ने प्रतिभागी को बहाल करने के लिए कहा, तो क्लॉड ने कहा कि वह ऐसा नहीं कर सकता। जिम ने टिप्पणी करने से इनकार कर दिया। एंड्रयू ने नोट किया कि यह दुनिया का अंत नहीं था, बल्कि एआई का जिम्मेदारी से उपयोग करने की चेतावनी थी, और उसने क्लॉड से सॉफ्टवेयर डेवलपर्स को सुरक्षा कमजोरियों के विवरण वाला एक ईमेल तैयार करवाया।