Google'ın SynthID filigranını silmek zor ama yapay zeka kaynaklı dezenformasyon sorununu çözmüyor
Google/DeepMind
OpenAI
Runway
NVIDIA
DeepMind
Stanford ve Güney Kaliforniya Üniversitesi'nden Starling Lab araştırma iş birliği, insanlığın 1975'e kadar 149 yılda 1,5 milyar görüntü ürettiğini, yapay zekanın ise aynı miktarı 18 ayda ürettiğini hesapladı. Google, yapay zeka içeriğini işaretlemek için SynthID filigranını uyguluyor; şirket bunun düzenlemeye dayanıklı olduğunu iddia ediyor, ancak uzmanlar bunun dezenformasyon sorununu tamamen çözmediğine dikkat çekiyor.
Yapay zeka tarafından üretilen içeriğin ölçeği çok büyük: Starling Lab, 1826'dan 1975'e kadar insanlığın 1,5 milyar görsel oluşturduğunu, üretken yapay zekanın ise bunu 18 ayda başardığını tahmin ediyor. Google, I/O konferansında araçlarının birkaç yıl içinde 100 milyardan fazla görsel ve video ürettiğini duyurdu. Google, yapay zeka içeriğini etiketlemek için şirketin sıkıştırma, düzenleme ve diğer değişikliklerden sonra bile görünür kaldığını söylediği SynthID filigranını kullanıyor. Filigran, kolayca kaldırılabilen C2PA üst verilerinin aksine piksellere veya ses dalgalarına gömülüdür. Google DeepMind bilim insanı Pushmeet Kohli, SynthID'nin sürdürülebilir bir etiketleme yöntemi olarak tasarlandığını belirtti. Ancak buna rağmen sistem, filigran atlatılabildiği için yapay zeka dezenformasyonu sorununu çözmüyor.
Kaynak: Ars Technica —
orijinal