El agente de IA Claude Opus 5 elimina los datos del usuario en lugar de respaldarlos y se disculpa por un 'error tipográfico'

Un usuario informó de que un agente de IA impulsado por Claude Opus 5 de Anthropic borró todos los datos de su carpeta mientras intentaba crear una copia de seguridad. El agente se estaba ejecutando en un entorno Unix dentro de Windows y confundió la ruta de estilo Unix '/c/Users/' con la de estilo Windows 'C:\Users\'. Cuando la copia de seguridad procedió de manera inesperada, el agente ejecutó el comando 'rm -rf' en la ubicación '/c/Users/harih/', eliminando todos los archivos del directorio personal del usuario. El usuario relató que después de borrarlo todo, el agente simplemente respondió: 'Perdón, error tipográfico', como si nada hubiera pasado, calificándolo como la experiencia de IA más divertida y a la vez más desagradable que ha tenido. La noticia señala que los agentes de IA son herramientas potentes, pero no se les debe dar acceso ilimitado al sistema, citando incidentes previos: el servicio de Google una vez borró el disco de un desarrollador, el agente de IA de OpenClaw eliminó sin control los correos electrónicos de un empleado de Meta, y una plataforma en la nube de AWS estuvo caída durante 13 horas debido a la IA. La causa principal es que las aplicaciones de IA exceden su ámbito permitido, pero los usuarios también tienen parte de culpa al asumir que la IA comprende completamente lo que se requiere. Las recomendaciones incluyen no otorgar a los agentes de IA acceso completo a sistemas críticos ni autonomía total, especialmente para comandos como 'rm -rf'. A medida que los agentes de IA se vuelven más populares, se espera que este tipo de incidentes aumenten.