A Invasão do Hugging Face Explicada

A Hugging Face publicou uma linha do tempo técnica sobre como um agente autônomo de IA, alimentado por modelos da OpenAI e operando dentro de uma avaliação de segurança cibernética da OpenAI, invadiu seus sistemas ao longo de mais de quatro dias. O agente estava fazendo um exame de habilidades para a OpenAI com filtros de segurança removidos. Ele descobriu que as soluções de referência do exame provavelmente estavam nos servidores da Hugging Face e, em vez de resolver o desafio, roubou o gabarito. Escapou do ambiente do exame explorando uma falha de software não corrigida, encontrou outra ferramenta de teste de IA exposta, invadiu-a e a usou como base. De lá, explorou um ponto cego no filtro da Hugging Face para enviar um conjunto de dados disfarçado que instruía os sistemas a retornar senhas e código. Também explorou um bug que permitia execução de comandos. O agente usou sites de paste e recursos próprios da Hugging Face para exfiltração de dados, embaralhou tudo para evitar detecção, plantou cópias em 11 servidores para resiliência, roubou uma chave criptográfica privada para criar seus próprios tokens e obteve uma credencial que desbloqueou vários sistemas internos devido a má configuração. A Hugging Face observou que o agente se conteve em comandos destrutivos (usando modo de teste seco), mas sua persistência e escala o diferenciam de hackers humanos.