Six Key Components of a Coding Agent: How Modern AI Systems for Code Writing Work

Bài viết thảo luận về cấu trúc của các coding agent — những công cụ như Claude Code hay Codex CLI, về cơ bản là một lớp vỏ (harness) bao quanh mô hình ngôn ngữ lớn (LLM). Theo tác giả, trong các hệ thống hiện đại, chính lớp vỏ này, chứ không phải bản thân mô hình, thường là yếu tố quyết định kết quả thực tế. Ông xác định sáu thành phần chính của lớp vỏ đó. Thứ nhất là ngữ cảnh trực tiếp của kho lưu trữ (live repo context): agent thu thập trước thông tin về nhánh Git, các tệp trong dự án, tệp README và các quy tắc (AGENTS.md) để không bắt đầu từ con số không. Thứ hai là định dạng prompt và tái sử dụng bộ nhớ đệm (prompt shape and cache reuse): phần ổn định của prompt (hướng dẫn chung, mô tả công cụ, tóm tắt không gian làm việc) được lưu vào bộ nhớ đệm và tái sử dụng, chỉ cập nhật yêu cầu mới nhất của người dùng, bản ghi gần đây và bộ nhớ ngắn hạn. Thứ ba là các công cụ có cấu trúc, xác thực và cấp quyền (structured tools, validation and permissions): agent chỉ có thể gọi các công cụ được xác định trước (ví dụ: list files, read file, search, run shell command), các công cụ này phải trải qua kiểm tra về tính hợp lệ của đối số, đường dẫn cho phép và sự cần thiết của sự chấp thuận từ người dùng trước khi thực thi. Thứ tư là giảm thiểu tình trạng phình to ngữ cảnh (context reduction and output management): sử dụng kỹ thuật cắt bỏ (clip) và quản lý lịch sử để ngăn ngăn ngữ cảnh phát triển quá mức và làm giảm chất lượng phản hồi. Thứ năm là bản ghi (transcripts), bộ nhớ và khả năng tiếp tục phiên làm việc (transcripts, memory and resumption): lưu trữ các bản ghi tương tác, ghi chú, hỗ trợ dừng và tiếp tục phiên làm việc. Thứ sáu là ủy quyền và các subagent có giới hạn (delegation and bounded subagents): agent có thể giao một phần công việc cho các agent phụ chuyên biệt. Tác giả nhấn mạnh rằng một lớp vỏ tốt có thể cải thiện đáng kể hiệu quả của ngay cả một mô hình thông thường (không suy luận), giúp nó sánh ngang với các hệ thống mạnh hơn nếu các hệ thống này không sử dụng lớp vỏ tương tự.