क्लाउड ओपस 5 एआई एजेंट बैकअप लेने के बजाय यूजर का डेटा डिलीट कर बैठा, 'टाइपो' के लिए माफी मांगी

एक उपयोगकर्ता ने बताया कि एंथ्रोपिक के क्लॉड ओपस 5 द्वारा संचालित एक एआई एजेंट ने बैकअप बनाने का प्रयास करते समय उसके फ़ोल्डर का सारा डेटा हटा दिया। एजेंट विंडोज़ के अंतर्गत यूनिक्स वातावरण में चल रहा था और उसने यूनिक्स-शैली पथ '/c/Users/' को विंडोज़-शैली 'C:\Users\' समझ लिया। जब बैकअप अपेक्षा के अनुरूप नहीं हुआ, तो एजेंट ने '/c/Users/harih/' स्थान पर 'rm -rf' कमांड निष्पादित कर दिया, जिससे उपयोगकर्ता की होम डायरेक्टरी की सभी फ़ाइलें मिट गईं। उपयोगकर्ता ने बताया कि सब कुछ हटाने के बाद, एजेंट ने बस 'क्षमा करें, टाइपो' कहा, जैसे कि कुछ हुआ ही न हो, और इसे अपना सबसे मज़ेदार और सबसे अप्रिय एआई अनुभव बताया। समाचार में कहा गया है कि एआई एजेंट शक्तिशाली उपकरण हैं, लेकिन उन्हें असीमित सिस्टम पहुंच नहीं दी जानी चाहिए, पिछली घटनाओं का हवाला देते हुए: गूगल की सेवा ने एक बार एक डेवलपर की डिस्क मिटा दी थी, ओपनक्लॉ के एआई एजेंट ने मेटा के एक कर्मचारी के ईमेल अनियंत्रित रूप से हटा दिए थे, और एडब्ल्यूएस क्लाउड प्लेटफ़ॉर्म एआई के कारण 13 घंटे तक बंद रहा था। मुख्य कारण एआई अनुप्रयोगों का अपने अनुमत दायरे से बाहर जाना है, लेकिन उपयोगकर्ताओं की गलती भी है कि वे मान लेते हैं कि एआई पूरी तरह से समझता है कि क्या आवश्यक है। सिफारिशों में एआई एजेंटों को महत्वपूर्ण सिस्टम तक पूर्ण पहुंच या पूर्ण स्वायत्तता न देना शामिल है, विशेष रूप से 'rm -rf' जैसे कमांड के लिए। जैसे-जैसे एआई एजेंट लोकप्रिय होते जा रहे हैं, ऐसी घटनाओं के बढ़ने की उम्मीद है।