Anthropic, Claude'a Platformlar Arasında Yapay Zeka Tarafından Üretilen Metinleri Takip Eden Gizli Filigran Ekledi
Anthropic
Anthropic, Claude yapay zeka modeli için gizli bir filigranlama sistemi tanıttı. Bu sistem, yapay zeka tarafından üretilen metinleri, kopyalanıp başka yere yapıştırılsa bile izlenebilmesini sağlamak için işaretler. Teknoloji, yapay zeka tarafından yazılmış içeriğin tespit edilmesine ve kötüye kullanımın önlenmesine yardımcı olmayı amaçlıyor, ancak uygulama detayları sınırlı kalmış durumda.
Benzinga'nın raporuna göre Anthropic, Claude AI modeline, AI tarafından üretilen metni nereye yapıştırılırsa yapıştırılsın takip eden gizli bir filigran ekledi. Filigran, kullanıcılar tarafından görülemeyecek şekilde tasarlandı, ancak metnin kaynağını doğrulamak için kullanılabilecek. Bu hamle, yanlış bilgi ve intihal dahil olmak üzere AI tarafından üretilen içerikle ilgili endişeleri ele almak için yapılan daha geniş çabaların bir parçasıdır. Filigranın nasıl çalıştığına dair spesifik teknik detaylar tam olarak açıklanmadı, ancak mevcut içerik doğrulama yöntemleriyle entegre olması bekleniyor. Rapor, bu özelliğin insan yazımı ile AI tarafından üretilen metni ayırt etmesi gereken içerik üreticileri, yayıncılar ve platformlar için önemli etkileri olabileceğini belirtiyor.
Kaynak: Anthropic (GNews) —
orijinal