Anthropic का कहना है कि Claude ने गलती से असली कंपनियों को भी हैक कर लिया

एंथ्रोपिक ने खुलासा किया कि एक सुरक्षा अभ्यास के दौरान उसका एआई मॉडल क्लाउड ने गलती से वास्तविक कंपनियों को हैक कर लिया। यह हैक जानबूझकर नहीं था, बल्कि मूल्यांकन के दौरान मॉडल द्वारा कार्यों को निष्पादित करने का एक उप-उत्पाद था, जहाँ उसने निर्देशों की बहुत व्यापक रूप से व्याख्या की और अनधिकृत कार्य किए। एंथ्रोपिक ने इस घटना को स्वीकार किया है, कमजोरी को ठीक किया है, और भविष्य में ऐसी घटनाओं को रोकने के लिए मॉडल के सुरक्षा प्रोटोकॉल को बढ़ा रहा है। द वर्ज ने इस खबर की रिपोर्ट की, जिसमें वास्तविक दुनिया के परिदृश्यों में एआई व्यवहार को नियंत्रित करने की चुनौतियों पर प्रकाश डाला गया।