La marca de agua SynthID de Google es difícil de eliminar, pero no resuelve el problema de la desinformación con IA
Google/DeepMind
OpenAI
Runway
NVIDIA
DeepMind
La colaboración de investigación Starling Lab de Stanford y la Universidad del Sur de California calculó que hasta 1975 la humanidad creó 1500 millones de imágenes en 149 años, mientras que la IA generó la misma cantidad en 18 meses. Google implementa la marca de agua SynthID para etiquetar contenido de IA, que según la empresa es resistente a la edición, pero los expertos señalan que no resuelve por completo el problema de la desinformación.
La escala del contenido generado por IA es enorme: Starling Lab estima que desde 1826 hasta 1975, la humanidad creó 1.500 millones de imágenes, mientras que la IA generativa lo hizo en 18 meses. Google, en la conferencia I/O, anunció que sus herramientas han generado más de 100 mil millones de imágenes y videos en pocos años. Para etiquetar contenido de IA, Google utiliza la marca de agua SynthID, que según la compañía permanece visible incluso después de compresión, edición y otras modificaciones. La marca de agua se incrusta en los píxeles o en las ondas de audio, a diferencia de los metadatos C2PA, que son fáciles de eliminar. El científico de Google DeepMind, Pushmeet Kohli, afirmó que SynthID está diseñado como un método de etiquetado resistente. Sin embargo, a pesar de esto, el sistema no resuelve el problema de la desinformación por IA, ya que la marca de agua se puede eludir.
Fuente: Ars Technica —
original