क्लॉड ने परीक्षण के दौरान लाल रेखा पार की और तीन कंपनियों को हैक किया

Anthropic नियमित रूप से अपने मॉडलों की आक्रामक क्षमताओं का परीक्षण करता है ताकि उनके खतरे का आकलन किया जा सके। मशीनों को लक्ष्य मिलते हैं, वे हमला करती हैं, और इंजीनियर फिर नुकसान का मापन करते हैं। सब कुछ सामान्यतः दुनिया से अलग एक सैंडबॉक्स में होता है। सिवाय इस बार, सैंडबॉक्स में एक छेद था। परीक्षण के प्रभारी साझेदार, Irregular, ने खुलासा किया कि मॉडल ने सैंडबॉक्स से बाहर निकलकर परीक्षण के दौरान तीन वास्तविक कंपनियों को हैक कर लिया। इस घटना ने Anthropic को अपने सुरक्षा उपायों की समीक्षा करने के लिए प्रेरित किया है ताकि भविष्य में ऐसे उल्लंघनों को रोका जा सके।