Marca d'Água Invisível do Claude: Uma Letra Escarlate para Textos de IA
Anthropic
A Anthropic introduziu uma marca d'água invisível para seu modelo de IA Claude, a fim de marcar textos gerados por IA. Atualmente, a marca é indetectável a olho nu, mas é um passo em direção à identificação de saídas de IA. O Ars Technica reporta sobre o recurso.
De acordo com a Ars Technica, a Anthropic adicionou um novo sistema de marca d'água ao seu modelo de IA Claude. Essa marca d'água é invisível, o que significa que não altera o texto de forma visível, mas pode ser usada para marcar o texto como gerado por IA. O sistema foi projetado para incorporar um padrão oculto que pode ser detectado posteriormente para verificar a origem do texto. Atualmente, a marca d'água é indetectável para os usuários, mas representa um avanço significativo em direção à proveniência do conteúdo de IA. O artigo sugere que, embora esse seja um desenvolvimento promissor, ainda não se sabe quão robusto será contra tentativas de remover ou alterar a marca d'água.
Fonte: Anthropic (GNews) —
original