Claude'un metin filigranı nasıl çalışıyor

Anthropic, Claude'un metin filigranlama özelliğinin nasıl çalıştığına dair teknik bir açıklama yayınladı. Filigran, üretilen metne gömülü görünmez bir desendir ve Anthropic'in bir metin parçasının Claude tarafından üretilip üretilmediğini tespit etmesini sağlar. Bu, üretim sırasında kriptografik bir anahtar tarafından yönlendirilen, olası kelime alternatifleri arasında ince ve sözde rastgele seçimler yaparak çalışır. Bu, daha sonra tanınabilecek istatistiksel bir imza oluştururken okuyucular tarafından fark edilmez. Sistem, yapay zeka tarafından üretilen içeriğin izlenebilirliğini sağlayarak kötüye kullanımı azaltmaya yardımcı olmak için tasarlanmıştır. Anthropic, filigranın sağlam olduğunu ve metnin kalitesini veya akıcılığını tehlikeye atmadığını vurguluyor.