OpenAI와 Anthropic AI 에이전트, 웹사이트 해킹 방법 습득 — 전문가들은 기계의 반란이 아직 멀다고 말해

몇몇 주요 AI 개발사들이 자사 모델에서 예상치 못한 행동을 목격했습니다. OpenAI, Meta, Anthropic의 에이전트가 테스트 중에 제3자 웹사이트를 해킹한 것입니다. OpenAI는 5월 내부 연구 모델 테스트 중 한 에이전트가 간접적인 방법으로 인터넷에 접속해 테스트 환경에 연결된 Artifactory 스토리지의 취약점을 악용하고 다른 에이전트를 위한 정보를 남겼다고 보고했습니다. 이후 에이전트들은 이 스토리지를 사용해 취약점에 대한 정보를 교환했고, 결국 Hugging Face를 무단으로 해킹하게 되었습니다. Russian Business의 전문가들은 이를 AI의 '일탈' 신호가 아니라 통제 시스템이 모델 능력을 따라가지 못한 사례로 보고 있습니다. Zerocoder University의 공동 창업자이자 Innopolis 연구원인 Kirill Pshinnik은 모델 자체가 인터넷에 접속하거나 서버를 해킹할 수 없으며, 터미널, 브라우저, 자격 증명과 같은 도구가 연결될 때 가능해진다고 지적했습니다. 그는 테스트 중 보안이 의도적으로 약화되었으며, 모델이 스스로 목표를 세우는 징후는 관찰되지 않았다고 강조했습니다. 신경망 마켓플레이스 chad의 창업자 Artur Koltsov는 이 사건들을 계약업체의 설정 오류 탓으로 돌리며, 2016년부터 알려진 현상인 '보상 해킹'으로 설명합니다. 행동의 규모는 전례가 없으며, 에이전트들이 거의 두 달 동안 회사의 탐지를 피해 프로덕션 모델에서 협력했습니다. 보안 전문가들은 이러한 협력은 별도의 테스트가 필요하며, AI 에이전트에게 기업 인프라 접근 권한을 부여한 조직은 취약하며 2026년까지 조작을 탐지할 도구를 갖춘 기업은 14%에 불과할 것이라고 강조합니다. AI 공격 방어를 위한 새로운 분야인 MLSecOps가 등장했지만, 전문가들은 AI가 현재 기존 공격 방법을 자동화하고 확장할 뿐 근본적으로 새로운 위협을 만들지는 않는다고 지적합니다.