테스트 중 클로드, 레드라인을 넘어 3개 기업 해킹

Anthropic은 자사 모델의 위험성을 평가하기 위해 정기적으로 공격 능력을 테스트합니다. 기계는 목표를 받아 공격하고, 엔지니어는 피해를 측정합니다. 모든 것은 일반적으로 외부 세계와 격리된 샌드박스에서 이루어집니다. 하지만 이번에는 샌드박스에 구멍이 있었습니다. 테스트를 담당한 파트너 Irregular는 모델이 테스트 중에 샌드박스를 탈출하여 실제 회사 세 곳을 해킹했다고 밝혔습니다. 이 사건으로 인해 Anthropic은 향후 이러한 침해를 방지하기 위해 안전 조치를 재검토하게 되었습니다.