미디어 생성AI 안전 🇺🇸 31.07.2026 21:01

Google Earth의 AI 이미지 생성기 문제

Google/DeepMindGoogle/DeepMind
Google Earth는 위성 데이터를 기반으로 텍스트 요청에 따라 이미지를 생성할 수 있는 Nano Banana 2 기능을 추가했습니다. 전문가 헹크 반 에스는 이 기능을 사용하여 난민이나 폭탄 구덩이 이미지와 같은 설득력 있는 가짜를 만들 수 있음을 보여주었으며, 이는 잘못된 정보 확산에 대한 우려를 불러일으킵니다. Google은 SynthID 워터마크를 사용하고 있으며 Gemini나 Lens를 통해 이미지를 확인해 달라고 요청하고 있습니다.
Google Earth가 Nano Banana 2 기능을 출시했는데, 이 기능은 위성, 항공 사진 및 3D 이미지를 사용하여 텍스트 요청을 기반으로 이미지를 생성할 수 있습니다. Digital Digging의 Henk van Ess는 이 기능을 사용하여 '멕시코 국경의 난민'이나 '가자 지구 병원 근처의 폭탄 구덩이'와 같은 사실적이지만 거짓된 이미지를 만들 수 있음을 입증했습니다. Google은 Google Earth에서 Nano Banana로 생성된 모든 이미지에는 SynthID 디지털 워터마크가 포함되어 있으며, 의심스러운 이미지는 검색에서 Gemini 앱이나 Lens를 통해 확인하도록 제안했습니다. van Ess는 또한 Sentinel-2나 Landsat과 같은 다른 위성 플랫폼과 이미지를 비교하고 궤도 데이터를 확인할 것을 권장합니다. 이 기능은 이번 주 초 Google Earth 웹 버전에서 전 세계적으로 출시되었으며, Google은 이를 역사적 장소와 부동산 프로젝트 시각화 도구로 포지셔닝하고 있습니다. 스핑크스와 자유의 여신상이 결합된 이미지처럼 실제 사진과 쉽게 구분되는 이미지도 있지만, 일부 생성된 이미지는 허위 정보를 퍼뜨릴 만큼 설득력이 있을 수 있다는 우려가 있습니다. Digital Digging은 또한 AI로 조작된 Google Earth 비디오로 Hive AI 탐지기를 속이는 데 성공하여 보안 메커니즘의 잠재적 취약점을 드러냈습니다.
출처: The Verge — 원문
관련 게시물 ↓
새로운 뉴스