Las marcas de agua de texto de Anthropic marcan un nuevo frente en la detección de IA

Anthropic, una empresa de investigación en inteligencia artificial, ha desarrollado una técnica para marcar con agua el texto generado por sus modelos de IA, lo que permite identificar el contenido producido por IA. Las marcas de agua están diseñadas para ser invisibles para los lectores, pero detectables mediante software especializado, lo que ayuda en la lucha contra la desinformación y el uso no autorizado de la IA. Este desarrollo llega en un momento de creciente preocupación por la propagación de contenido generado por IA y la dificultad para distinguirlo del texto escrito por humanos. El enfoque de Anthropic representa un paso proactivo en la detección de IA, aunque la empresa reconoce que las marcas de agua pueden no ser infalibles y podrían ser eludidas. El anuncio ha generado debates sobre la eficacia y la ética de tales métodos de detección en la industria de la IA.