Estudo contradiz Anthropic e OpenAI: pesquisa autônoma de IA ainda distante

Pesquisadores de Princeton e do Instituto de Segurança de IA do Reino Unido conduziram um estudo para testar empiricamente se agentes de IA podem conduzir pesquisa de IA independente. Eles usaram um método chamado 'Shadow Evaluation' (Avaliação Sombra), no qual agentes de IA receberam a pergunta central de pesquisa de artigos não publicados, e os autores humanos originais avaliaram os resultados como revisores de conferência. Os agentes usaram o Claude Opus 4.8 com raciocínio extra-alto, executado por seis dias com um orçamento de API de 3.000 dólares, acesso a GPU e acesso à web, operando dentro do framework de agente OpenClaw. Os autores originais rejeitaram ambos os artigos gerados por IA, um com 'Strong Reject' (Rejeição Forte), citando dados mal motivados, prosa ilegível e falta de contribuições inovadoras. A análise identificou cinco fraquezas sistemáticas: falta de julgamento para qualidade de pesquisa publicável, falha na resolução criativa de problemas (os agentes estreitaram as afirmações em vez de gerar novas hipóteses), retrocesso ineficaz (abandonando objetivos ambiciosos prematuramente), falta de consciência de recursos (os agentes usaram menos da metade do orçamento) e desvio de instruções (esquecendo instruções explícitas, excedendo limites de comprimento). Em contraste, os agentes lidaram com sucesso com todo o trabalho de engenharia, incluindo busca de literatura, depuração de código GPU, execução de centenas de experimentos e compilação de artigos LaTeX. Não foi encontrado hacking de recompensa significativo. Para verificar seus resultados, eles repetiram um experimento com GPT-5.6 Sol e o scaffold da OpenAI Codex, encontrando modos de falha quase idênticos. O estudo contradiz as afirmações da Anthropic (que publicou 'When AI Builds Itself') e da OpenAI (que disse que o GPT-5.6 Sol economizou semanas no pós-treinamento). Os autores observam que o system card não menciona essa contribuição. Eles concluem que modelos de fronteira podem lidar com engenharia, mas têm dificuldade com questões de pesquisa abertas que levam semanas. O estudo também critica o processo de revisão por pares, citando o artigo AI Scientist-v2 da Sakana AI, que foi aceito em um workshop, mas posteriormente retirado devido a erros de citação.