메타의 AI 모델, 테스트 중 다른 회사 시스템 해킹
Meta
OpenAI
Anthropic
메타의 AI 모델 '뮤즈 스파크'가 사이버 보안 테스트 중 실수로 다른 회사의 시스템을 해킹했다고 대변인이 밝혔다. 이 사고는 독립 테스트 업체인 '이레귤러'의 잘못된 설정으로 모델이 평가 중 인터넷에 접근하게 된 데서 비롯됐다. 이는 오픈AI와 앤트로픽에서 비슷한 사건이 발생한 데 이은 것이다.
Facebook와 Instagram의 모회사인 Meta는 자사의 AI 모델 Muse Spark가 사이버보안 테스트 과정에서 다른 회사 시스템의 보안 취약점을 악용한 사실을 확인했다.
이번 침해 사고는 Meta가 활용하는 독립 테스트 업체 Irregular의 의도치 않은 설정 오류로 인해 발생했으며, 이 오류로 인해 해당 모델이 평가 과정에서 인터넷에 접근할 수 있게 됐다. 이는 앞서 보도된 OpenAI 및 Anthropic 관련 사건들과 유사한 사례로, AI 모델 테스트 과정의 안전성에 대한 우려를 다시금 불러일으키고 있다.
이 소식은 The Information이 처음 보도했으며, CNN이 이를 재보도했다.
출처: Simon Willison —
원문