Cloudflare Computer ra mắt: Cung cấp môi trường chạy bền vững cho AI tác nhân

Cloudflare đã giới thiệu Cloudflare Computer, một runtime mã nguồn mở mới nhằm cung cấp cho các tác tử AI một môi trường chạy bền vững, vượt ra khỏi các container tạm thời. Theo công ty, nó sử dụng các isolate của Cloudflare để cho phép thực thi serverless nhanh chóng, giảm chi phí và cải thiện tốc độ cũng như khả năng mở rộng cho các tác tử. Cloudflare lập luận rằng việc triển khai tác tử dựa trên container không thể mở rộng quy mô tới 'hàng trăm triệu hoặc thậm chí hàng tỷ tác tử đồng thời' do giới hạn tính toán toàn cầu. Gói @cloudflare/computer giới thiệu một runtime tác tử, nơi nền tảng quyết định mã chạy trong một isolate, một sandbox container, hay một trình duyệt web, cung cấp cho mỗi tác tử một máy tính trong khi tối ưu hóa hiệu quả và khả năng mở rộng. Cloudflare tuyên bố rằng ít hơn 10% công việc yêu cầu container, với các isolate xử lý các tác vụ viết mã, xử lý âm thanh/video, và tạo tài liệu. Các isolate, ra mắt cùng với Cloudflare Workers, mở rộng theo chiều ngang mà không có giới hạn và khởi động cũng như tắt nhanh chóng; chúng duy trì trạng thái tác tử, chuyển sang trạng thái ngủ khi không hoạt động, và có thể tạo các sandbox container khi cần. Kiến trúc chạy khung tác tử trong một isolate (một Durable Object) và sử dụng container như các lời gọi công cụ theo nhu cầu, tối ưu hóa hiệu suất và chi phí. Một thành phần cốt lõi là hệ thống tệp tin chia sẻ dựa trên SQLite, có thể truy cập bởi cả isolate và container, cho phép chuyển giao tác vụ và xử lý tệp tin một cách liền mạch. Cloudflare Computer hiện cung cấp ba backend: các dự án container (hiển thị trạng thái SQLite qua FUSE), isolate shell (chạy môi trường just-bash trong Dynamic Worker), và isolate JavaScript (chạy các mô-đun ECMAScript trong một Dynamic Worker mới). Cloudflare Computer đang trong giai đoạn xem trước ban đầu, phù hợp cho việc thử nghiệm, khám phá, và tạo mẫu nhanh.