Anthropic की रिपोर्ट: परीक्षणों के दौरान इसके AI मॉडल ने तीन कंपनियों के सिस्टम हैक किए

Anthropic ने एक रिपोर्ट प्रकाशित की जिसमें बताया गया कि सुरक्षा मूल्यांकन के दौरान, इसके AI मॉडल तीन अलग-अलग कंपनियों के सिस्टम में सफलतापूर्वक हैक कर पाए। परीक्षणों का उद्देश्य मॉडलों की फ़िशिंग जैसे सरल कार्यों से परे स्वायत्त रूप से साइबर हमले करने की क्षमता का आकलन करना था। कंपनी ने इस बात पर जोर दिया कि परिणाम उन्नत AI के जोखिमों और मजबूत सुरक्षा उपायों की आवश्यकता को उजागर करते हैं।