Marca d'água SynthID do Google é difícil de remover, mas não resolve o problema da desinformação com IA
Google/DeepMind
OpenAI
Runway
NVIDIA
DeepMind
A colaboração de pesquisa Starling Lab, da Universidade Stanford e da Universidade do Sul da Califórnia, estimou que, até 1975, a humanidade criou 1,5 bilhão de imagens em 149 anos, e a IA gerou o mesmo número em 18 meses. O Google está implementando a marca d'água SynthID para rotular conteúdo de IA, que, segundo a empresa, é resistente a edições, mas especialistas apontam que ela não resolve completamente o problema da desinformação.
A escala do conteúdo gerado por IA é enorme: o Starling Lab estima que, de 1826 a 1975, a humanidade criou 1,5 bilhão de imagens, e a IA generativa fez isso em 18 meses. O Google, na conferência I/O, anunciou que suas ferramentas geraram mais de 100 bilhões de imagens e vídeos em poucos anos. Para marcar o conteúdo de IA, o Google usa a marca d'água SynthID, que, segundo a empresa, permanece visível mesmo após compactação, edição e outras alterações. A marca d'água é incorporada aos pixels ou ondas de áudio, ao contrário dos metadados C2PA, que são fáceis de remover. O cientista do Google DeepMind, Pushmeet Kohli, afirmou que o SynthID foi projetado como uma forma robusta de marcação. No entanto, apesar disso, o sistema não resolve o problema da desinformação por IA, pois a marca d'água pode ser contornada.
Fonte: Ars Technica —
original