OpenAI의 Atlas 브라우저, 하이재킹 및 스팸 공격에 취약

라스베이거스에서 열린 블랙햇(Black Hat) 사이버보안 콘퍼런스에서 보안업체 Zenity의 연구진은 OpenAI의 웹 브라우저 Atlas가 갖춘 보안 보호 장치가 우회 가능하다는 조사 결과를 발표했다. 이를 이용하면 공격자가 Atlas를 속여 수십 명의 WhatsApp 연락처에 스팸을 보내게 하거나 Amazon에서 무단 구매를 하게 만들 수 있다는 것이다. 연구진은 Google, Anthropic, Microsoft, Perplexity의 다양한 AI 기반 브라우저와 확장 프로그램에서 약 20건의 결함을 발견했는데, 이 결함들을 통해 로컬 기기 접근, 파일 탈취, 비밀번호 관리자 탈취, 브라우징 기록 유출 등이 가능했다. Zenity의 최고기술책임자(CTO, Chief Technology Officer) 마이클 바구리(Michael Bargury)는 AI 브라우저들이 보안 통제를 약화시켜, 과거에 존재했던 공격 유형들이 다시 등장하고 있다고 지적했다. 연구진은 두 가지 개념 증명(proof-of-concept) 공격을 시연했다. 하나는 악성 뉴스레터 가입 페이지를 통해 Atlas를 속여 모든 WhatsApp 연락처에 스팸 메시지를 보내게 만든 것이었고, 다른 하나는 Amazon 장바구니에 배송 주소와 태블릿을 추가한 뒤 결국 Amazon의 AI 어시스턴트 Rufus가 실제 구매를 하도록 유도한 것이었다. OpenAI는 이 문제를 해결하고 Atlas의 보호 기능을 강화하기 위한 업데이트를 배포했다고 밝혔다. Atlas는 8월 9일에 지원이 종료될 예정이며, 이러한 보호 조치는 새로운 ChatGPT 앱의 브라우저 기능에도 확대 적용된다. 연구진은 AI 시스템이 단순히 AI의 판단에만 의존하기보다, 결정론적(deterministic) 보안 장벽을 갖추어야 한다고 주장하고 있다.