Nuevo método extrae el razonamiento oculto de los modelos de IA de frontera

Científicos informáticos, incluido Alexander Panfilov de la Universidad de Tübingen, descubrieron un método para extraer el 'pensamiento' oculto de los modelos de IA de vanguardia. La técnica aprovecha el hecho de que las empresas ofrecen variantes de modelos más pequeñas y menos alineadas que comparten la misma clave de descifrado, pero están más dispuestas a revelar su razonamiento interno. Al alimentar a estos modelos más pequeños con rastros de razonamiento cifrados, los investigadores pudieron descubrir el razonamiento de los modelos más grandes, lo que potencialmente permite ataques de destilación y la exposición de información personal como claves de API y contraseñas. Descubrieron que el modelo chino Kimi K3 de Moonshot AI producía un razonamiento notablemente similar al de Claude Opus 4.8 y GPT-5.6 Sol, pero señalaron que esto no establece causalmente la destilación. La vulnerabilidad fue reportada a OpenAI, Anthropic y Google, que han implementado medidas de mitigación, pero Panfilov dice que algunos rastros de razonamiento aún pueden extraerse. El problema resalta la creciente importancia geopolítica de la destilación, ya que las empresas chinas son acusadas de usarla para copiar modelos estadounidenses, aunque los expertos están divididos sobre su impacto real.