La evolución de la compresión de contexto en agentes de IA

Los agentes de IA son un ciclo de intercambio de mensajes entre un usuario y un modelo de lenguaje (LLM), donde el modelo puede llamar a herramientas o MCPs. Cada interacción se añade al historial de conversación, que normalmente se envía completo a la siguiente llamada del modelo. Sin embargo, las ventanas de contexto, aunque grandes, no son ilimitadas, y el rendimiento se degrada con historiales grandes y mal estructurados. El clásico artículo 'Lost in the Middle' muestra una curva en forma de U: los modelos utilizan mejor el principio y el final de entradas largas que el medio. El artículo traza la evolución de los enfoques para comprimir el contexto: el recorte simple de la cola (ventana deslizante) en LangChain mediante trim_messages; el resumen de mensajes antiguos en un bloque de resumen usando SummarizationMiddleware en create_agent; luego proteger los primeros N mensajes y la cola reciente mientras se comprime el medio, como se ve en Hermes Agent y la compresión de medio hacia afuera de OpenRouter. El enfoque más nuevo separa el historial almacenado del contexto de trabajo: el historial completo se mantiene externamente (por ejemplo, en un archivo), la llamada al modelo recibe una vista con la cola reciente más un resumen, y al agente se le dan herramientas como read_file o grep para recuperar detalles del historial completo. La biblioteca Deep Agents de LangChain implementa esto en su SummarizationMiddleware, aunque el nombre se comparte de manera confusa con el middleware básico. Esta evolución es parte de la tendencia más amplia de ingeniería de contexto, distinguiendo lo que el agente sabe (historial completo, resultados de herramientas, habilidades) de lo que entra en la siguiente llamada al modelo.