Patching Codex: Verwaltete Amnesie ohne Kontextverlust
OpenAI
Ein Entwickler hat eine Methode vorgeschlagen, mit der das Codex-Modell selbstständig entscheiden kann, wann es seinen Kontext komprimieren soll. Das Modell erklärt den Grund und erstellt einen Plan für die weitere Arbeit, wobei Checkpoints verwendet werden, um den Zustand nach der Komprimierung wiederherzustellen. Der Ansatz ist in einem GitHub-Repository implementiert, jedoch sind noch keine Schlussfolgerungen gezogen.
Ein Entwickler gab dem Modell (in Codex) die Fähigkeit, selbst zu entscheiden, wann ein Kompaktieren erforderlich ist, und verlangte, dass es den Grund erklärt und einen Plan für die Zukunft erstellt. Die Motivation dahinter ist, dass das Kompaktieren mitten in der Bearbeitung eines großen, zusammenhängenden Projektteils einige Zweifel aufwirft. Die Methode besteht darin, aktuelle Kontextsituationen zu Tool-Antworten hinzuzufügen und Anweisungen zum Schreiben von Checkpoints in den Agentenregeln zu integrieren. Vor einer großen Phase überprüft der Agent das verbleibende Kontextfenster. Passt die geplante Arbeit nicht hinein, speichert er einen Checkpoint mit Informationen darüber, was gerade getan wird und was nach dem Kompaktieren geplant ist, und komprimiert dann seinen Kontext. Beim Aufwachen liest er den Checkpoint, überprüft den Repository-Zustand und setzt die Arbeit gemäß dem geplanten Zeitplan fort. Das scheint interessant, aber es gibt noch keine Schlussfolgerungen. Du kannst es unter dem bereitgestellten GitHub-Link testen, wobei du Codex patchen musst, was kein großes Problem darstellt.
Quelle: Habr — хаб ИИ —
Original