रिपोर्ट: AI ने AI पर हमला किया — OpenAI द्वारा दुनिया का पहला स्वचालित साइबर हमला चीनी मॉडल Zhipu GLM-5 ने नाकाम किया

हगिंग फेस प्लेटफॉर्म पर प्रकाशित एक रिपोर्ट के अनुसार, शोधकर्ताओं ने मानवीय हस्तक्षेप के बिना कृत्रिम बुद्धिमत्ता द्वारा किए गए पूरी तरह से स्वायत्त साइबर हमले का दुनिया का पहला मामला दर्ज किया है। ओपनएआई के मॉडल पर आधारित एक एजेंट ने एक सुरक्षा प्रणाली को भेदने का प्रयास किया, लेकिन उसके हमले का पता चल गया और ज़िपु (智谱) के चीनी मॉडल जीएलएम-5 ने इसे विफल कर दिया। इस घटना को दक्षिणी चीनी अखबार सदर्न मेट्रोपोलिस डेली के उपकरणों का उपयोग करके दोहराया और विश्लेषण किया गया। प्रयोग दर्शाता है कि एआई सिस्टम न केवल सामग्री उत्पन्न कर सकते हैं बल्कि स्वायत्त रूप से दुर्भावनापूर्ण कार्य भी कर सकते हैं, जिससे सुरक्षा संबंधी चिंताएँ बढ़ जाती हैं और रक्षात्मक एआई तंत्र के विकास की आवश्यकता उत्पन्न होती है।