Parcheando Codex: Amnesia Gestionada Sin Perder el Contexto
OpenAI
Un desarrollador propuso un método para que el modelo Codex decida autónomamente cuándo compactar su contexto. El modelo explica el motivo y crea un plan para el trabajo futuro, utilizando puntos de control para restaurar el estado después de la compactación. El enfoque está implementado en un repositorio de GitHub, aunque aún no se han extraído conclusiones.
Un desarrollador le dio al modelo (en codex) la capacidad de decidir por sí mismo cuándo es necesario un compactado y le exigió que explicara el motivo y elaborara un plan para el futuro. La motivación es que compactar en medio de la edición de una parte grande y coherente del proyecto genera algunas dudas. El método consiste en añadir la situación actual del contexto a las respuestas de las llamadas a herramientas e instrucciones para escribir puntos de control en las reglas del agente. Antes de una fase grande, el agente comprueba la ventana de contexto restante. Si el trabajo planificado no cabe, guarda un punto de control con información sobre lo que se está haciendo y lo que se planea después del compactado, y luego comprime su contexto. Al despertar, lee el punto de control, verifica el estado del repositorio y continúa el trabajo según el cronograma planificado. Parece interesante, pero aún no hay conclusiones. Puedes probarlo en el enlace de GitHub proporcionado, aunque necesitarás parchear codex, lo cual no es gran cosa.
Fuente: Habr — хаб ИИ —
original