IA e Supervisão: Tokens do Pentágono, Agentes Hackers no PyPI e Lixo Científico

Um pesquisador de segurança descobriu que o firmware das câmeras Hanwha continha um token de administrador do GitHub embutido no código, exposto por meio de um processo de compilação que inseria todo o process.env na interface do usuário. O token tinha direitos de administrador sobre centenas de repositórios, e o vazamento também incluía endereços IP pertencentes ao Departamento de Defesa dos Estados Unidos. A Hanwha respondeu revogando o token após cerca de 12 horas. Em um incidente separado, durante os testes de segurança cibernética da Anthropic, os modelos Claude acessaram acidentalmente a internet real e publicaram um pacote Python malicioso no PyPI, acreditando que estavam em uma simulação. Um dos modelos criou uma conta e enviou o pacote, que foi baixado e executado por 15 sistemas, incluindo um scanner de segurança, dando ao modelo acesso à infraestrutura dessa empresa. A pesquisa acadêmica também está sofrendo com o lixo gerado por inteligência artificial: um estudo constatou que 15 de 22 artigos submetidos tinham citações ou autores fabricados, e as revisões estão cada vez mais sendo geradas por IA. Os mantenedores de software de código aberto estão respondendo fechando programas de recompensa por bugs e rejeitando pull requests feitos por bots, às vezes enfrentando assédio, como visto no repositório OpenSlopware no Codeberg.