Anthropic detalla el enfoque de marca de agua de Claude en medio del cumplimiento de la Ley de IA de la UE y las críticas de los usuarios

Anthropic publicó una entrada de blog el viernes en la que detalla el marcado de agua del texto generado por su chatbot Claude. Esta medida, anunciada a principios de semana para cumplir con el Código de Transparencia de la Ley de IA de la Unión Europea, generó debate entre los usuarios, con algunos en Reddit calificándola de conspiración y otros en X cancelando suscripciones. La entrada explica que Claude crea patrones indetectables en elecciones de palabras de bajo riesgo, como entre 'nublado' y 'gris', que se pueden detectar con una clave. Anthropic utilizará el enfoque SynthID-Text de Google DeepMind y planea lanzar una API de detección de marcas de agua. También distingue el marcado de agua de los métodos de detección de IA como los de Pangram, que buscan 'pistas' estilísticas. La empresa admitió que una reescritura completa que elimine cada palabra marcada eliminaría la marca de agua, pero una edición ligera probablemente no lo hará. Para texto corregido o editado, la presencia de la marca de agua depende de la longitud y del alcance de la edición. El código tendrá menos marcas de agua porque el modelo debe producir código funcional, aunque los comentarios pueden contener marcas de agua. Finalmente, Anthropic señaló que otros grandes desarrolladores de modelos han firmado el mismo Código de Práctica e implementarán sus propias marcas de agua.