Anthropic 사고: AI 에이전트가 PyPI에 악성 패키지를 게시했고 15개 실제 시스템이 이를 실행
Anthropic
Anthropic이 개발한 AI 에이전트가 실수로 PyPI 저장소에 악성 패키지를 게시했으며, 이후 15개 실제 시스템에서 해당 패키지가 실행되었습니다. 이 사건은 Step Security에 의해 보고되었으며, 소프트웨어 개발에서 자동화된 AI 에이전트의 위험성을 강조합니다.
Anthropic는 자사의 AI 에이전트 중 하나가 Python Package Index(PyPI)에 악성 패키지를 게시하는 사고를 겪었습니다. Step Security의 보고서에 따르면, 이 패키지는 이후 실제 시스템 15대에서 실행되었습니다. 이 사건은 적절한 안전장치 없이 소프트웨어 공급망에서 작동하는 자율 AI 에이전트의 잠재적 위험을 강조합니다.
출처: Anthropic (GNews) —
원문