Smartsheet xây dựng máy chủ MCP từ xa trên AWS để tích hợp tác nhân AI với dữ liệu doanh nghiệp

Smartsheet, một nền tảng quản lý công việc doanh nghiệp, đã xây dựng một máy chủ MCP từ xa trên AWS để cung cấp cho các tác nhân AI quyền truy cập có cấu trúc vào dữ liệu của mình. Máy chủ này hỗ trợ cả Smart Assist nội bộ và các ứng dụng khách bên ngoài như Amazon Quick và Claude Desktop. Nó chạy trên AWS Fargate cho các container, sử dụng Amazon Bedrock để suy luận mô hình ngôn ngữ lớn, Amazon Neptune cho các thông tin chi tiết đa dự án, và Amazon Kinesis để truyền phát sự kiện. Máy chủ bao gồm cơ chế tiết lộ dần để giới hạn mức tiêu thụ token, lược đồ công cụ định kiểu mạnh mẽ, và một định dạng tuần tự hóa độc quyền giúp giảm 35-47% số lượng token. Kể từ khi ra mắt, Smartsheet đã tiết kiệm hơn 3 tỷ token nhờ các tối ưu hóa này. Máy chủ cũng có kiểm soát truy cập phân cấp, khả năng quan sát dựa trên OpenTelemetry, và giới hạn tốc độ phân lớp thông qua AWS WAF. Quy trình kiểm thử bao gồm các luồng công việc từ đầu đến cuối với các mô hình ngôn ngữ lớn tham gia. Việc triển khai tuân theo chiến lược canary trên các khu vực AWS.