구글의 SynthID 워터마크는 제거하기 어렵지만, AI 기반 허위 정보 문제를 해결하지는 못한다
Google/DeepMind
OpenAI
Runway
NVIDIA
DeepMind
스탠포드와 서던캘리포니아 대학의 공동 연구 기관인 Starling Lab은 인간이 149년 동안 15억 개의 이미지를 생성한 반면, AI는 18개월 만에 같은 양을 생성했다고 추산했습니다. 구글은 AI 콘텐츠를 표시하기 위해 SynthID 워터마크를 도입하고 있으며, 회사는 편집에 강하다고 주장하지만, 전문가들은 허위 정보 문제를 완전히 해결하지는 못한다고 지적합니다.
AI 생성 콘텐츠의 규모는 엄청납니다. Starling Lab은 1826년부터 1975년까지 인류가 15억 개의 이미지를 만들었지만, 생성형 AI는 18개월 만에 그만큼을 만들었다고 추정합니다. Google은 I/O 컨퍼런스에서 자사의 도구가 몇 년 만에 1000억 개 이상의 이미지와 비디오를 생성했다고 발표했습니다. Google은 AI 콘텐츠를 표시하기 위해 SynthID 워터마크를 사용하며, 이 워터마크는 압축, 편집 및 기타 변경 이후에도 유지된다고 회사 측은 밝혔습니다. 워터마크는 쉽게 제거할 수 있는 콘텐츠 크리덴셜(C2PA) 메타데이터와 달리 픽셀이나 오디오 웨이브에 내장됩니다. Google DeepMind의 과학자 푸시밋 코리는 SynthID가 내구성 있는 표시 방법으로 설계되었다고 말했습니다. 그러나 그럼에도 불구하고 워터마크를 우회할 수 있기 때문에 이 시스템은 AI 허위 정보 문제를 해결하지 못합니다.
출처: Ars Technica —
원문