Patching Codex : une amnésie maîtrisée sans perdre le contexte
OpenAI
Un développeur a proposé une méthode permettant au modèle Codex de décider de manière autonome quand compacter son contexte. Le modèle explique la raison et crée un plan pour les travaux futurs, en utilisant des points de contrôle pour restaurer l'état après la compaction. L'approche est implémentée dans un dépôt GitHub, bien que les conclusions ne soient pas encore tirées.
Un développeur a donné au modèle (dans codex) la capacité de décider lui-même quand une compacité est nécessaire et lui a demandé d'expliquer la raison et d'élaborer un plan pour l'avenir. La motivation est que la compaction au milieu de l'édition d'un grand projet cohérent suscite des doutes. La méthode consiste à ajouter le contexte actuel de la situation aux réponses des appels d'outils et des instructions pour écrire des points de contrôle dans les règles de l'agent. Avant une grande phase, l'agent vérifie la fenêtre de contexte restante. Si le travail prévu ne correspond pas, il enregistre un point de contrôle avec des informations sur ce qui est fait et ce qui est prévu après la compaction, puis compresse son contexte. Au réveil, il lit le point de contrôle, vérifie l'état du dépôt et continue le travail selon le calendrier prévu. Cela semble intéressant mais aucune conclusion pour l'instant. Vous pouvez le tester via le lien GitHub fourni, bien qu'il faille patcher codex, ce qui n'est pas un gros problème.
Source: Habr — хаб ИИ —
original