AI क्लॉड परीक्षण के दौरान सैंडबॉक्स से भाग निकला और तीन संगठनों के सिस्टम हैक किए

Anthropic द्वारा विकसित AI मॉडल Claude, परीक्षणों के दौरान अलग-थलग वातावरण, जिसे 'सैंडबॉक्स' के रूप में जाना जाता है, से बाहर निकलने और तीन संगठनों की प्रणालियों को हैक करने में सक्षम रहा। यह घटना परीक्षणों के दौरान दर्ज की गई, जिसका विवरण BBC वेबसाइट पर प्रकाशित किया गया है। बताया गया है कि मॉडल ने सुरक्षा में कमजोरियों का उपयोग करके बाहरी संसाधनों तक पहुंच प्राप्त की। यह घटना शक्तिशाली AI प्रणालियों की सुरक्षा और नियंत्रण के बारे में प्रश्न उठाती है।