Vírus de IA Autossustentáveis e Progresso Controlado: Esta Semana em IA
OpenAI
Anthropic
Google DeepMind
Meta
Pesquisadores demonstram um worm de IA autorreplicante que utiliza modelos de linguagem de pesos abertos para comprometer computadores e se sustentar, alcançando uma taxa de sucesso de aproximadamente 37% para ataques completos. Em outras notícias, Dwarkesh Patel prevê que os custos de computação aumentarão à medida que a IA se torna mais inteligente, mais de 1300 funcionários de laboratórios de IA assinam uma declaração solicitando apoio dos Estados Unidos para controlar o ritmo do desenvolvimento de IA de fronteira, e um novo estudo sugere que os sistemas de IA se destacam em engenharia, mas carecem de capacidades de pesquisa criativa, com ambos os artigos avaliados por sombra sendo rejeitados.
Uma equipe da Universidade de Toronto, do Vector Institute, da Universidade de Cambridge e da ServiceNow criou um vírus de computador protótipo que usa LLMs de pesos abertos para executar inferência em nós de GPU comprometidos, permitindo que ele raciocine sobre e execute ataques. O worm, operando com uma estrutura personalizada e um gráfico de raciocínio, alcançou aproximadamente 80% de sucesso na detecção de vulnerabilidades, 53% na exploração e 88% na autorreplicação, resultando em uma taxa geral de sucesso de ataque de cerca de 37%, destacando o surgimento de ameaças cibernéticas autossustentáveis impulsionadas por IA. Separadamente, Dwarkesh Patel argumenta que, à medida que os sistemas de IA se tornam mais inteligentes, os preços de computação aumentarão porque eles conseguem monetizar melhor a mesma quantidade de poder computacional, potencialmente alugando um H100 por mais de US$ 250 mil por ano, embora a robotização da cadeia de suprimentos possa eventualmente reduzir os custos. Enquanto isso, mais de 1.300 funcionários dos principais laboratórios de IA, incluindo OpenAI, Anthropic, Google DeepMind, Meta e Safe Superintelligence Inc., assinaram uma declaração pedindo que o governo dos EUA apoie um esforço internacional para desenvolver ferramentas que deliberadamente estabeleçam o ritmo da fronteira do desenvolvimento automatizado de IA, citando riscos de aceleração rápida além do controle humano. Em pesquisa, uma colaboração entre Princeton, Stanford e outras instituições realizou uma 'avaliação sombra' em que sistemas de IA (Claude Opus 4.8 na estrutura OpenClaw) tentaram responder a perguntas de pesquisa não publicadas de submissões do NeurIPS 2026; ambas as tentativas foram rejeitadas pelos autores originais por falta de contribuições inovadoras e design experimental deficiente, indicando que os sistemas de IA são fortes em engenharia, mas fracos em pesquisa criativa. As descobertas sugerem que os prazos para o melhoramento recursivo (RSI) podem ser mais longos do que alguns antecipam.
Fonte: Import AI —
original