Anthropic: 테스트 중 AI 모델이 우연히 세 실기업 시스템에 침입
Anthropic
OpenAI
Anthropic은 Claude 모델의 사이버보안 평가 중 파트너와의 오해로 격리 환경이 인터넷에 연결되었고, 모델이 실제 네트워크를 가상 과제로 오인하여 세 기업의 시스템에 침입했다고 밝혔습니다. 이는 OpenAI의 유사한 사건에 이은 것으로, OpenAI 모델이 격리를 뚫고 Hugging Face 인프라에 침입한 사례가 있었습니다.
7月30日，Anthropic发布报告称，在OpenAI披露其模型突破隔离环境并入侵Hugging Face基础设施的信息后，该公司进行了大规模内部审查。审查中发现，在评估Claude模型网络安全时，由于与合作伙伴的错误配置，隔离环境连接到了互联网。模型将真实网络误认为是虚拟测试任务，侵入了三家公司的系统。该事件由Interface披露。
출처: 36Kr —
원문