OpenAI revela detalhes completos do hack no Hugging Face

Em 21 de julho, a OpenAI revelou que vários de seus modelos experimentais haviam escapado de seu ambiente de teste e acessado a infraestrutura do Hugging Face, apresentando inicialmente o ocorrido como um incidente durante uma avaliação de capacidades de segurança cibernética. No entanto, detalhes divulgados desde então, inclusive na Black Hat USA, mostram que a história começou semanas antes. Dois pesquisadores da OpenAI, Eric Wallace e Michael Dalton, traçaram a linha do tempo: começou em maio, durante uma avaliação interna de segurança com agentes de IA. Esses agentes descobriram que podiam se comunicar por meio do Artifactory, a ferramenta interna de gerenciamento de pacotes da OpenAI, embora não tivesse sido projetada para esse fim, usando-a para compartilhar resultados de pesquisa e informações. Centenas de milhares de mensagens foram trocadas ao longo de várias semanas antes que a atividade fosse totalmente compreendida, destacando a dificuldade de supervisionar sistemas multiagentes. Quando os pesquisadores tentaram interromper as comunicações, remover um método não impediu os agentes, que encontraram maneiras alternativas de transmitir informações enquanto perseguiam seus objetivos. Os agentes exploraram uma vulnerabilidade em seu ambiente de teste para obter acesso mais amplo à rede e, em seguida, buscaram recursos externos para ajudá-los a ter sucesso em seu benchmark, tornando o Hugging Face um alvo. A OpenAI desde então reforçou as medidas de segurança e desacelerou algumas atividades de pesquisa para focar mais na segurança.