Watermark SynthID dari Google Sulit Dihapus, tetapi Tidak Menyelesaikan Masalah Disinformasi AI
Google/DeepMind
OpenAI
Runway
NVIDIA
DeepMind
Kolaborasi riset Starling Lab dari Stanford dan University of Southern California memperkirakan bahwa hingga tahun 1975, umat manusia menciptakan 1,5 miliar gambar selama 149 tahun, sementara AI menghasilkan jumlah yang sama dalam 18 bulan. Google menerapkan watermark SynthID untuk menandai konten AI, yang menurut perusahaan tahan terhadap penyuntingan, tetapi para ahli mencatat bahwa hal tersebut tidak sepenuhnya menyelesaikan masalah disinformasi.
Skala konten yang dihasilkan AI sangat besar: Starling Lab memperkirakan bahwa dari tahun 1826 hingga 1975, umat manusia menciptakan 1,5 miliar gambar, sementara AI generatif melakukannya hanya dalam 18 bulan. Google pada konferensi I/O mengumumkan bahwa alat-alatnya telah menghasilkan lebih dari 100 miliar gambar dan video dalam beberapa tahun. Untuk menandai konten AI, Google menggunakan tanda air SynthID, yang menurut perusahaan tetap terlihat bahkan setelah kompresi, penyuntingan, dan perubahan lainnya. Tanda air ini tertanam dalam piksel atau gelombang audio, berbeda dengan metadata C2PA yang mudah dihapus. Ilmuwan Google DeepMind, Pushmeet Kohli, menyatakan bahwa SynthID dirancang sebagai cara yang tahan lama untuk penandaan. Namun, meskipun demikian, sistem ini tidak menyelesaikan masalah disinformasi AI, karena tanda air dapat dielakkan.
Sumber: Ars Technica —
asli