Pesquisadores do MIT Apresentam SEAL: Um Passo Rumo à IA Autoaprimorada

Pesquisadores do Instituto de Tecnologia de Massachusetts (MIT) apresentaram o framework SEAL (Self-Adapting LLMs), que permite que grandes modelos de linguagem (LLMs) atualizem seus próprios pesos. O SEAL utiliza aprendizado por reforço (RL) para gerar "autoedições" — dados sintéticos nos quais o modelo é ajustado. O ciclo externo de RL otimiza o processo de geração de edições, enquanto o interno as aplica por meio de descida de gradiente. Para estabilidade do treinamento, em vez de PPO e GRPO, os autores escolheram o método ReST^EM, da DeepMind. O framework foi testado em dois cenários: aprendizado few-shot (no Llama-3.2-1B-Instruct) e integração de conhecimento (no Qwen2.5-7B). No few-shot, a precisão da adaptação atingiu 72,5%, contra 20% do modelo sem RL. Na integração de conhecimento, o SEAL superou a baseline mesmo com dados sintéticos e, após duas iterações de RL, superou abordagens que utilizam GPT-4.1. O trabalho gerou ampla discussão, inclusive no Hacker News, em meio ao crescente interesse pela autoevolução da inteligência artificial — recentemente, surgiram projetos da Sakana AI, CMU, SJTU e outros. Sam Altman, da OpenAI, em seu blog "The Gentle Singularity", também escreveu sobre o futuro da IA autorreforçada e dos robôs. O artigo destaca limitações do SEAL, incluindo esquecimento catastrófico e custos computacionais.