Anthropic merinci pendekatan watermarking Claude di tengah kepatuhan EU AI Act dan reaksi pengguna

Anthropic menerbitkan posting blog pada hari Jumat yang merinci penandaan air (watermarking) pada teks yang dihasilkan oleh chatbot-nya, Claude. Langkah ini, yang diumumkan awal minggu ini untuk mematuhi Kode Transparansi Undang-Undang AI Uni Eropa, memicu perdebatan di kalangan pengguna, dengan sebagian di Reddit menyebutnya sebagai konspirasi dan lainnya di X membatalkan langganan. Posting tersebut menjelaskan bahwa Claude menciptakan pola yang tidak terdeteksi dalam pemilihan kata berisiko rendah, seperti antara 'overcast' dan 'grey', yang dapat dideteksi dengan kunci. Anthropic akan menggunakan pendekatan SynthID-Text dari Google DeepMind dan berencana merilis API pendeteksi watermark. Perusahaan ini juga membedakan watermarking dari metode deteksi AI seperti milik Pangram, yang mencari 'tanda-tanda' gaya bahasa. Perusahaan mengakui bahwa penulisan ulang total yang menghilangkan setiap kata ber-watermark akan menghapus watermark, tetapi penyuntingan ringan mungkin tidak akan. Untuk teks yang telah diproofread atau disunting, keberadaan watermark bergantung pada panjang dan tingkat penyuntingan. Kode akan memiliki lebih sedikit watermark karena model harus menghasilkan kode yang fungsional, meskipun komentar mungkin mengandung watermark. Terakhir, Anthropic mencatat bahwa pengembang model besar lainnya telah menandatangani Kode Praktik yang sama dan akan menerapkan watermark mereka sendiri.