Le filigrane SynthID de Google est difficile à retirer, mais il ne résout pas le problème de la désinformation par l'IA
Google/DeepMind
OpenAI
Runway
NVIDIA
DeepMind
La collaboration de recherche Starling Lab, entre Stanford et l'Université de Californie du Sud, a estimé que jusqu'en 1975, l'humanité a créé 1,5 milliard d'images en 149 ans, et que l'IA en a généré autant en 18 mois. Google déploie le filigrane SynthID pour marquer le contenu généré par IA, qui, selon l'entreprise, résiste à l'édition. Cependant, les experts soulignent qu'il ne résout pas entièrement le problème de la désinformation.
L'ampleur du contenu généré par l'IA est énorme : le Starling Lab estime que l'humanité a créé 1,5 milliard d'images entre 1826 et 1975, et l'IA générative l'a fait en 18 mois. Google a annoncé lors de sa conférence I/O que ses outils ont généré plus de 100 milliards d'images et de vidéos en quelques années. Pour marquer le contenu AI, Google utilise le filigrane SynthID, qui, selon l'entreprise, reste visible même après compression, édition et autres modifications. Le filigrane est intégré dans les pixels ou les ondes audio, contrairement aux métadonnées C2PA (Coalition for Content Provenance and Authenticity) qui sont faciles à supprimer. Pushmeet Kohli, scientifique chez Google DeepMind, a déclaré que SynthID a été conçu comme une méthode de marquage robuste. Cependant, malgré cela, le système ne résout pas le problème de la désinformation par l'IA, car le filigrane peut être contourné.
Source: Ars Technica —
original