Thách thức và Kinh nghiệm khi Sử dụng AI Agent: Những điều bạn cần biết

Sergey Kozlov, giám đốc nhà phát triển hệ thống CRM "Megaplan" và cơ sở tri thức có trợ lý AI Collabis, cùng với Igor Sukhoverkhov, trưởng bộ phận phát triển Collabis, chia sẻ kinh nghiệm triển khai các tác nhân AI. Họ lưu ý rằng chất lượng công việc của tác nhân phụ thuộc nhiều vào mức độ cấu trúc của Cơ sở Tri thức: nếu nó lộn xộn, các phản hồi AI sẽ không chính xác. Ngữ cảnh cũng rất quan trọng—đơn giản viết "làm cho nó ngầu" là chưa đủ; bạn cần đưa tác nhân vào sâu trong ngữ cảnh của nhiệm vụ. Cách tiếp cận hiện đại với AI là kỹ thuật vòng lặp, trong đó yếu tố chính là cách tác nhân thực hiện nhiệm vụ và sử dụng công cụ. Các tác giả cảnh báo rằng nếu AI đi sai hướng, nó sẽ lãng phí thời gian và token. Họ đưa ra một ví dụ: trong nhiệm vụ của một người kiểm thử, thay vì chỉ ra một nút bị hỏng, tác nhân đã đi sâu vào mã và cố gắng sửa nó. Hầu hết các mô hình xử lý tốt các nhiệm vụ đơn giản và được xác định rõ ràng, nhưng các nhiệm vụ phức tạp nhiều bước đòi hỏi các mô hình đắt tiền hơn—chúng có thể quên phần đầu, giống như con người. Kiểm soát thủ công là bắt buộc: một tác nhân ngày nay giống như một junior, mà công việc của họ phải được senior kiểm tra. Cũng có đề cập đến rủi ro chặn truy cập vào các mô hình nước ngoài, vì vậy khuyến nghị lưu trữ dữ liệu trong Cơ sở Tri thức cá nhân. Công ty "Megaplan" đã phát triển một máy chủ MCP để truyền dữ liệu, và cũng có một dự án Pet dựa trên GPT 5.6 chạy cục bộ.