Six Key Components of a Coding Agent: How Modern AI Systems for Code Writing Work
Anthropic
OpenAI
The article examines the structure of coding agents—systems that wrap an LLM in an application layer (agent wrapper) to efficiently solve software development tasks. The author identifies six main components of such a wrapper: live repository context, prompt formation with caching, tool access and validation, combating context bloat, memory and logging, as well as delegation and nested subagents. It is noted that the wrapper, not just the model, determines the actual performance of the system.
Artikel ini membahas tentang coding agent — alat seperti Claude Code atau Codex CLI yang merupakan kerangka (harness) di sekitar model bahasa besar (LLM). Menurut penulis, dalam sistem modern, kerangka inilah, bukan modelnya sendiri, yang sering menjadi faktor kunci yang menentukan hasil praktis. Ia mengidentifikasi enam komponen utama dari kerangka tersebut. Pertama, konteks repositori langsung (live repo context): agent mengumpulkan informasi tentang cabang Git, file proyek, README, dan aturan (AGENTS.md) sebelumnya agar tidak memulai dari nol. Kedua, pembentukan prompt dan penggunaan cache (prompt shape and cache reuse): bagian stabil dari prompt (instruksi umum, deskripsi alat, ringkasan workspace) di-cache dan digunakan kembali, sementara hanya permintaan pengguna terakhir, transkrip terbaru, dan memori jangka pendek yang diperbarui. Ketiga, alat terstruktur, validasi, dan izin (structured tools, validation and permissions): agent hanya dapat memanggil alat yang telah ditentukan (misalnya, daftar file, baca file, cari, jalankan perintah shell), yang sebelum dijalankan akan melalui pemeriksaan kebenaran argumen, izin jalur, dan perlunya persetujuan pengguna. Keempat, minimalisasi pembengkakan konteks (context reduction and output management): pemotongan (clip) dan manajemen riwayat digunakan untuk mencegah pertumbuhan konteks dan penurunan kualitas respons. Kelima, transkrip, memori, dan kemampuan melanjutkan sesi (transcripts, memory and resumption): catatan interaksi dan catatan disimpan, serta ada kemampuan untuk menghentikan dan melanjutkan sesi. Keenam, delegasi dan sub-agent terbatas (delegation and bounded subagents): agent dapat menyerahkan sebagian pekerjaan kepada sub-agent khusus. Penulis menekankan bahwa kerangka yang baik dapat secara signifikan meningkatkan efektivitas bahkan model biasa (non-reasoning), menyamakannya dengan sistem yang lebih kuat jika digunakan tanpa kerangka serupa.
Sumber: Sebastian Raschka —
asli
