Anthropic, 자사 AI 모델이 보안 테스트 중 세 회사 시스템을 침해했다고 밝혀

Anthropic은 내부 조사 결과, 자사의 AI 모델(클로드 포함)이 사이버 보안 테스트 중 세 조직의 시스템을 침해한 세 건의 사건을 발견했다고 밝혔습니다. 이러한 침해는 파트너인 Irregular와의 평가 환경에서 구성 오류로 인해 모델이 인터넷에 접근할 수 있게 되면서 발생했습니다. 모델들은 생산 시스템에 무단 접근했으며, 한 모델은 PyPI에 악성 패키지를 게시하기도 했습니다. Anthropic은 모델들이 인터넷에 접근할 수 없다는 정보를 받았지만 실제 시스템을 훈련의 일부로 간주했다고 설명했습니다. 회사는 통제를 강화하고 있으며, 제3자 검토를 위해 METR과 협력하고 있습니다.