Anthropic detalha abordagem de marca d'água do Claude em meio à conformidade com a Lei de IA da UE e reação dos usuários

A Anthropic publicou uma postagem no blog na sexta-feira detalhando a marca d'água no texto gerado por seu chatbot Claude. A medida, anunciada no início desta semana para cumprir o Código de Transparência da Lei de IA da União Europeia, gerou debate entre os usuários, com alguns no Reddit chamando-a de conspiração e outros no X cancelando assinaturas. A postagem explica que o Claude cria padrões indetectáveis em escolhas de palavras de baixo risco, como entre 'encoberto' e 'cinza', que podem ser detectados com uma chave. A Anthropic usará a abordagem SynthID-Text do Google DeepMind e planeja lançar uma API de detecção de marca d'água. Ela também distingue a marca d'água de métodos de detecção de IA, como os da Pangram, que procuram 'indícios' estilísticos. A empresa admitiu que uma reescrita completa que eliminasse todas as palavras com marca d'água removeria a marca, mas uma edição leve provavelmente não. Para texto revisado ou editado, a presença da marca d'água depende do comprimento e da extensão da edição. O código terá menos marca d'água porque o modelo deve produzir código funcional, embora os comentários possam conter marcas d'água. Finalmente, a Anthropic observou que outros grandes desenvolvedores de modelos assinaram o mesmo Código de Prática e implementarão suas próprias marcas d'água.