Google's SynthID-watermerk is moeilijk te verwijderen, maar lost het probleem van AI-desinformatie niet op
Google/DeepMind
OpenAI
Runway
NVIDIA
DeepMind
De onderzoekssamenwerking Starling Lab van Stanford en de University of Southern California berekende dat de mensheid tot 1975 in 149 jaar 1,5 miljard afbeeldingen heeft gemaakt, terwijl AI in 18 maanden evenveel heeft gegenereerd. Google introduceert het SynthID-watermerk om AI-content te markeren, waarvan het bedrijf zegt dat het bestand is tegen bewerking, maar experts merken op dat het het probleem van desinformatie niet volledig oplost.
De omvang van AI-gegenereerde content is enorm: Starling Lab schat dat de mensheid van 1826 tot 1975 1,5 miljard afbeeldingen heeft gemaakt, terwijl generatieve AI dit in 18 maanden voor elkaar kreeg. Op de I/O-conferentie kondigde Google aan dat zijn tools in enkele jaren tijd meer dan 100 miljard afbeeldingen en video's hebben gegenereerd. Voor het markeren van AI-content gebruikt Google het watermerk SynthID, dat volgens het bedrijf zichtbaar blijft, zelfs na compressie, bewerking en andere wijzigingen. Het watermerk wordt ingebed in pixels of audiogolven, in tegenstelling tot C2PA-metadata, die gemakkelijk te verwijderen zijn. Google DeepMind-wetenschapper Pushmeet Kohli verklaarde dat SynthID is ontworpen als een robuuste manier van markeren. Ondanks dit alles lost het systeem het probleem van AI-desinformatie echter niet op, omdat het watermerk kan worden omzeild.
Bron: Ars Technica —
origineel