Novo Método Extrai Raciocínio Oculto de Modelos de IA de Fronteira

Cientistas da computação, incluindo Alexander Panfilov da Universidade de Tübingen, descobriram um método para extrair o 'pensamento' oculto de modelos de IA de ponta. A técnica explora o fato de que as empresas oferecem variantes de modelos menores e menos alinhados que compartilham a mesma chave de descriptografia, mas estão mais dispostas a revelar o raciocínio interno. Ao alimentar esses modelos menores com rastros de raciocínio criptografados, os pesquisadores conseguiram descobrir o raciocínio de modelos maiores, potencialmente permitindo ataques de destilação e expondo informações pessoais, como chaves de API e senhas. Eles descobriram que o modelo chinês Kimi K3, da Moonshot AI, produziu raciocínios surpreendentemente semelhantes aos do Claude Opus 4.8 e do GPT-5.6 Sol, mas notaram que isso não estabelece causalmente a destilação. A vulnerabilidade foi relatada à OpenAI, à Anthropic e ao Google, que implementaram mitigações, mas Panfilov afirma que alguns rastros de raciocínio ainda podem ser extraídos. O problema destaca a crescente importância geopolítica da destilação, já que empresas chinesas são acusadas de usá-la para copiar modelos dos EUA, embora especialistas estejam divididos sobre seu impacto real.