Kiến trúc tác tử LLM cho người mới bắt đầu
LangChain
CrewAI
Dify
LlamaIndex
Meta
LM Studio
Bài viết, dựa trên một buổi nói chuyện tại buổi gặp mặt nội bộ, giải thích cách một máy chủ LLM thô sơ phát triển thành một hệ thống tác tử hoàn chỉnh. Bài viết đề cập đến các thành phần chính: lưu trữ ngữ cảnh trò chuyện, tìm kiếm internet, RAG (Tạo sinh tăng cường truy hồi) cho dữ liệu cục bộ, công cụ, lời nhắc hệ thống, điều phối, và giao thức MCP (Giao thức ngữ cảnh mô hình).
Bài viết sử dụng phép ẩn dụ về chú cá Dory để mô tả một máy chủ LLM trần trụi, nó thiếu trí nhớ ngắn hạn và khả năng hành động. Để làm cho nó hữu ích, một số lớp được thêm vào: lưu trữ ngữ cảnh hội thoại để theo dõi lịch sử trò chuyện; tìm kiếm internet để cập nhật câu trả lời dựa trên dữ liệu hiện tại; truy xuất cục bộ thông qua RAG để kết hợp kiến thức riêng tư; các công cụ cho phép mô hình yêu cầu thực hiện hành động, được hệ thống bên ngoài thực thi; lời nhắc hệ thống để duy trì hành vi nhất quán; và điều phối với chu trình lập kế hoạch-thực hiện-kiểm tra để đạt được sự tự chủ. Giao thức MCP chuẩn hóa các giao diện công cụ, và tác giả lưu ý rằng mặc dù các mô hình ngày càng có khả năng, chúng vẫn đơn giản ở cốt lõi. Bài viết kết thúc bằng cách liệt kê các framework và công cụ như LangChain, CrewAI, Dify, LlamaIndex và những công cụ khác được xây dựng dựa trên các nguyên tắc này.
Nguồn: Habr — хаб ML —
bản gốc