Corrigindo o Codex: Amnésia Gerenciada Sem Perder Contexto
OpenAI
Um desenvolvedor propôs um método para fazer o modelo Codex decidir autonomamente quando compactar seu contexto. O modelo explica o motivo e cria um plano para o trabalho futuro, usando pontos de verificação para restaurar o estado após a compactação. A abordagem está implementada em um repositório do GitHub, embora as conclusões ainda não tenham sido tiradas.
Um desenvolvedor deu ao modelo (em codex) a capacidade de decidir por conta própria quando um compact é necessário e exigiu que ele explicasse o motivo e criasse um plano para o futuro. A motivação é que compactar no meio da edição de uma parte grande e coerente do projeto levanta algumas dúvidas. O método envolve adicionar o contexto atual da situação às respostas das chamadas de ferramenta e instruções para escrever checkpoints nas regras do agente. Antes de uma grande fase, o agente verifica a janela de contexto restante. Se o trabalho planejado não couber, ele salva um checkpoint com informações sobre o que está sendo feito e o que está planejado após o compact, e então comprime seu contexto. Ao acordar, ele lê o checkpoint, verifica o estado do repositório e continua o trabalho de acordo com o cronograma planejado. Parece interessante, mas ainda não há conclusões. Você pode testá-lo no link do GitHub fornecido, embora precise aplicar um patch no codex, o que não é um grande problema.
Fonte: Habr — хаб ИИ —
original