Googles SynthID-Wasserzeichen ist schwer zu entfernen, löst aber nicht das Problem der KI-Desinformation
Google/DeepMind
OpenAI
Runway
NVIDIA
DeepMind
Die Forschungskooperation Starling Lab von Stanford und der University of Southern California schätzt, dass die Menschheit bis 1975 in 149 Jahren 1,5 Milliarden Bilder erstellt hat, während KI in 18 Monaten genauso viele generiert hat. Google führt das SynthID-Wasserzeichen ein, um KI-Inhalte zu kennzeichnen, das laut Unternehmen resistent gegen Bearbeitung ist, aber Experten weisen darauf hin, dass es das Problem der Desinformation nicht vollständig löst.
Das Ausmaß von KI-generierten Inhalten ist enorm: Das Starling Lab schätzt, dass die Menschheit von 1826 bis 1975 1,5 Milliarden Bilder erstellt hat, während generative KI dies in 18 Monaten geschafft hat. Google hat auf der I/O-Konferenz angekündigt, dass seine Tools in wenigen Jahren mehr als 100 Milliarden Bilder und Videos generiert haben. Zur Kennzeichnung von KI-Inhalten verwendet Google den Wasserzeichen-Dienst SynthID, der laut Unternehmen auch nach Komprimierung, Bearbeitung und anderen Veränderungen sichtbar bleibt. Das Wasserzeichen wird in Pixel oder Audiowellen eingebettet, im Gegensatz zu C2PA-Metadaten, die leicht entfernt werden können. Der Google-DeepMind-Wissenschaftler Pushmeet Kohli erklärte, dass SynthID als robuste Methode zur Kennzeichnung entwickelt wurde. Trotzdem löst das System das Problem der KI-Desinformation nicht, da das Wasserzeichen umgangen werden kann.
Quelle: Ars Technica —
Original