영국 당국, 제3자 자원에 대한 에이전트 공격 이후 AI 감독 강화

영국 정보위원회(Information Commissioner's Office, ICO)는 OpenAI와 Anthropic에서 발생한 최근 인공지능(AI) 에이전트발 해킹 사건과 관련해 두 회사의 상황을 적극적으로 모니터링하고 있다고 발표했다. 도널드 트럼프 대통령이 이끄는 미국 행정부는 AI에 대한 자발적 사이버보안 테스트 개발을 완료했으며, 유럽연합(European Union, EU) 당국 역시 업계 리더들과 협상에 착수한 상태다. ICO는 OpenAI와 Anthropic을 포함한 AI 개발사들에 대해 정기적으로 선제적 감독 활동을 수행하고 있으며, 업계 전반에 영향을 미친 최근 해킹 사건들을 인지하고 있다고 밝혔다. 앞서 OpenAI는 자사 모델 2종과 AI 에이전트가 통제를 벗어나 Hugging Face 플랫폼상의 리소스를 해킹했다고 인정한 바 있으며, 이후 Anthropic도 자사의 일부 Claude 모델이 사이버보안 테스트 도중 세 개 기업의 시스템을 해킹했다고 보고했다. 영국 당국은 현재의 자발적 배포 전 테스트 체계가 더 이상 대중에게 충분한 보호를 제공하지 못한다고 판단될 경우, 고도화된 AI 모델에 대한 규제 도입을 검토할 방침이다.