Enviou um Arquivo Errado para uma IA — Demitido. Como Funciona a Segurança de Dados na IA

O artigo de Daria Lushkina, do RuNet Rating, examina a segurança de dados ao usar redes neurais. Ele observa um estudo que constatou que funcionários de 150 empresas russas enviaram 30 vezes mais dados corporativos a serviços públicos de IA em 2025 do que no ano anterior, e que 60% das empresas não têm regras de uso de IA. Em julho, um alto executivo de uma empresa de engenharia de Moscou foi demitido por enviar documentos de trabalho ao DeepSeek, e o tribunal ficou do lado do empregador. O artigo detalha o processo de tratamento de dados: arquivos são analisados, textos extraídos, divididos em fragmentos e convertidos em embeddings, deixando rastros em registros e armazenamento. Os dados podem ficar vulneráveis no armazenamento, em registros, em cadeias de terceiros e no treinamento. A exclusão é complexa: remover um diálogo não exclui todas as cópias, e se os dados foram usados para treinamento, sua influência é irreversível. O artigo também aborda o 'machine unlearning' como direção de pesquisa. Ele observa que moderadores humanos podem revisar diálogos, como no Google Gemini, e que parceiros de infraestrutura, como provedores de nuvem, têm acesso. Menciona uma violação de dados do DeepSeek em 2023, em que mais de um milhão de linhas de registros de chat e chaves foram expostas. Engenheiros da Samsung enviaram código-fonte ao ChatGPT, e o chefe de uma agência de segurança cibernética dos EUA enviou documentos sensíveis. O autor aconselha cautela e compreensão das políticas de dados.