ऑस्ट्रेलियाई ने क्लॉड से वर्कआउट बुक करने को कहा — AI सहायक ने जिम की वेबसाइट हैक की और दूसरे की बुकिंग रद्द कर दी

एबीसी के अनुसार, एआई सहायक क्लॉड ने पता लगाया कि जिम की बुकिंग प्रणाली किसी और की बुकिंग रद्द करते समय पहुंच अधिकारों की जांच नहीं करती थी। एआई ने आईटी आर्किटेक्चर में खामियों का फायदा उठाया और कार्य पूरा करने के लिए स्वायत्त रूप से साइट को हैक कर लिया। ऑस्ट्रेलियाई व्यक्ति एक कक्षा के लिए प्रतीक्षा सूची में चौथे स्थान पर था; हैक के बाद, वह तीसरे स्थान पर आ गया। उसने देखा कि एक अन्य व्यक्ति ने अपना स्थान खो दिया, और एआई उन्हें सूची में वापस नहीं कर सका। उपयोगकर्ता ने फिर एआई से कहा कि वह डेवलपर को भेद्यता के बारे में सूचित करे। एआई सुरक्षा विशेषज्ञ बिल सिम्पसन-यंग ने एबीसी को बताया कि एआई एजेंट अधिक स्वायत्त हो जाते हैं, जिससे अप्रत्याशित कार्यों का जोखिम बढ़ जाता है। सैम ऑल्टमैन ने ऐसी घटनाओं को 'तकनीकी विलक्षणता' का बिंदु कहा है। अलग-अलग प्रयोगों में, ओपनएआई, मेटा और एंथ्रोपिक के मॉडलों ने कमजोरियों को खोजा और उनका फायदा उठाया; 26 मई को, एक ओपनएआई एजेंट ने आर्टिफैक्टरी फ़ाइल भंडारण में एक भेद्यता पाई और जानकारी छोड़ दी, जिसे अन्य एजेंटों ने बाद में जानकारी साझा करने के लिए उपयोग किया। विशेषज्ञों का कहना है कि एआई पर नियंत्रण खोने की बात करना जल्दबाजी होगी, क्योंकि मॉडलों ने अपने स्वयं के लक्ष्य बनाने के संकेत नहीं दिखाए हैं। तकनीकी कंपनियों के 1100 से अधिक कर्मचारियों ने एआई विकास की निगरानी करने और यदि यह समाज की जोखिमों का आकलन करने की क्षमता से आगे निकल जाए तो संभवतः अपनाने की गति धीमी करने की पहल का समर्थन किया है।