Subió un Archivo Incorrecto a una IA — Despedido. Cómo Funciona la Seguridad de Datos en la IA

El artículo de Daria Lushkina del RuNet Rating examina la seguridad de los datos al utilizar redes neuronales. Se menciona un estudio que encontró que los empleados de 150 empresas rusas subieron 30 veces más datos corporativos a servicios públicos de IA en 2025 que el año anterior, y el 60% de las empresas no tienen reglas de uso de IA. En julio, un alto directivo de una empresa de ingeniería de Moscú fue despedido por subir documentos de trabajo a DeepSeek, y el tribunal falló a favor del empleador. El artículo detalla el proceso de tratamiento de datos: los archivos se analizan, se extrae el texto, se divide en fragmentos y se convierte en incrustaciones, dejando rastros en registros y almacenamiento. Los datos pueden ser vulnerables en el almacenamiento, los registros, las cadenas de terceros y el entrenamiento. La eliminación es compleja: eliminar un diálogo no borra todas las copias, y si los datos se utilizaron para el entrenamiento, su influencia es irreversible. El artículo también cubre el desaprendizaje automático como dirección de investigación. Se señala que los moderadores humanos pueden revisar los diálogos, como en el caso de Gemini de Google, y que los socios de infraestructura, como los proveedores de nube, tienen acceso. Se menciona una brecha de datos de DeepSeek en 2023 donde se expusieron más de un millón de filas de registros de chat y claves. Los ingenieros de Samsung enviaron código fuente a ChatGPT, y el jefe de una agencia de ciberseguridad de EE. UU. subió documentos sensibles. El autor aconseja precaución y comprensión de las políticas de datos.