Amazon Quick và NVIDIA NeMo Agent Toolkit cho quy trình tác tử chuyên biệt

Bài viết mô tả một giải pháp kết hợp Amazon Quick và NVIDIA NeMo Agent Toolkit để tạo ra các luồng tác nhân chuyên biệt dành cho người dùng doanh nghiệp, tập trung vào trường hợp sử dụng rủi ro chuỗi cung ứng. Amazon Quick đóng vai trò là giao diện người dùng cho doanh nghiệp, cung cấp không gian làm việc hội thoại để truy cập dữ liệu có cấu trúc, kiến thức doanh nghiệp từ các nguồn như Amazon S3, Google Drive, SharePoint, Confluence và nội dung web nội bộ, cùng với hơn 100 bộ kết nối hành động được xây dựng sẵn tới các hệ thống bên thứ ba như Outlook, Slack, Jira và Asana. Người dùng cũng có thể gọi các luồng tác nhân thông qua Giao thức Ngữ cảnh Mô hình (Model Context Protocol - MCP). NVIDIA NeMo Agent Toolkit là một thư viện mã nguồn mở, không phụ thuộc vào framework, dùng để xây dựng, đánh giá, hồ sơ hóa và tối ưu hóa các luồng tác nhân, tương thích với LangChain, LlamaIndex, CrewAI, Microsoft Semantic Kernel, Google ADK và các tác nhân Python tùy chỉnh. Trong giải pháp này, các nhà phân tích chuỗi cung ứng sử dụng tác nhân trò chuyện Amazon Quick để chẩn đoán vấn đề, từ đó kích hoạt luồng NeMo Agent Toolkit, luồng này điều tra các gián đoạn, gọi các công cụ chuỗi cung ứng (ví dụ: rủi ro đơn hàng mua, mức độ phơi nhiễm tồn kho, tác động đến khách hàng, tra cứu chính sách, phương án hậu cần, đề xuất giảm thiểu), xác nhận đề xuất và trả về kế hoạch giảm thiểu được xếp hạng kèm bằng chứng, dấu vết, độ trễ và siêu dữ liệu đánh giá. Kiến trúc bao gồm Amazon Quick cho giao diện người dùng và truy cập kiến thức, Amazon Bedrock AgentCore làm cổng MCP và môi trường chạy, và NeMo Agent Toolkit cho luồng phụ trợ. Triển khai sử dụng AWS CloudFormation, AWS CodeBuild và Amazon ECR. Người dùng có thể thiết lập bảng điều khiển bằng dữ liệu mẫu và tạo nguồn kiến thức cho ngữ cảnh phi cấu trúc.