Googlen SynthID-vesileima on vaikea poistaa, mutta se ei ratkaise tekoälyn disinformaatio-ongelmaa
Google/DeepMind
OpenAI
Runway
NVIDIA
DeepMind
Stanfordin ja Etelä-Kalifornian yliopiston Starling Lab -tutkimusyhteistyö on laskenut, että vuoteen 1975 mennessä ihmiskunta loi 1,5 miljardia kuvaa 149 vuoden aikana, kun taas tekoäly on tuottanut saman määrän 18 kuukaudessa. Google ottaa käyttöön SynthID-vesileiman merkitsemään tekoälyn luomaa sisältöä, jonka yritys väittää kestävän muokkausta, mutta asiantuntijat huomauttavat, että se ei täysin ratkaise disinformaatio-ongelmaa.
AI-generoidun sisällön määrä on valtava: Starling Lab arvioi, että vuosina 1826–1975 ihmiskunta loi 1,5 miljardia kuvaa, kun taas generatiivinen tekoäly teki sen 18 kuukaudessa. Google ilmoitti I/O-konferenssissa, että sen työkalut ovat tuottaneet yli 100 miljardia kuvaa ja videota muutamassa vuodessa. AI-sisällön merkitsemiseen Google käyttää SynthID-vesileimaa, joka yhtiön mukaan säilyy näkyvissä myös pakkaamisen, muokkaamisen ja muiden muutosten jälkeen. Vesileima upotetaan pikseleihin tai ääniaaltoihin, toisin kuin C2PA-metatiedot, jotka on helppo poistaa. Google DeepMINDin tutkija Pushmeet Kohli totesi, että SynthID on suunniteltu kestäväksi merkitsemistavaksi. Tästä huolimatta järjestelmä ei ratkaise AI-disinformaation ongelmaa, koska vesileiman voi kiertää.
Lähde: Ars Technica —
Alkuperäinen