Menambal Codex: Amnesia Terkelola Tanpa Kehilangan Konteks
OpenAI
Seorang pengembang mengusulkan metode untuk membuat model Codex secara otonom memutuskan kapan harus memadatkan konteksnya. Model tersebut menjelaskan alasannya dan membuat rencana untuk pekerjaan selanjutnya, menggunakan titik pemeriksaan untuk memulihkan kondisi setelah pemadatan. Pendekatan ini diimplementasikan dalam repositori GitHub, meskipun kesimpulan belum ditarik.
Seorang pengembang memberikan model (di codex) kemampuan untuk memutuskan sendiri kapan perlu dilakukan kompaksi dan mewajibkannya untuk menjelaskan alasan serta menyusun rencana ke depan. Motivasi di balik ini adalah bahwa kompaksi di tengah proses penyuntingan bagian proyek yang besar dan koheren menimbulkan beberapa keraguan. Metode ini melibatkan penambahan situasi konteks saat ini ke dalam respons panggilan alat dan instruksi untuk menulis pos pemeriksaan dalam aturan agen. Sebelum fase besar, agen memeriksa sisa jendela konteks. Jika pekerjaan yang direncanakan tidak muat, ia menyimpan pos pemeriksaan dengan informasi tentang apa yang sedang dilakukan dan apa yang direncanakan setelah kompaksi, lalu mengompres konteksnya. Saat terbangun, ia membaca pos pemeriksaan, memverifikasi status repositori, dan melanjutkan pekerjaan sesuai jadwal yang direncanakan. Ini tampak menarik tetapi belum ada kesimpulan. Anda dapat mengujinya di tautan GitHub yang disediakan, meskipun Anda perlu menambal codex, yang bukan masalah besar.
Sumber: Habr — хаб ИИ —
asli