Writer ra mắt mô hình Palmyra X6 và nâng cấp harness để giảm chi phí token

Writer, công ty cung cấp các công cụ và tác nhân AI dành cho nhà tiếp thị, đã ra mắt mô hình chủ lực mới có tên Palmyra X6, nhằm giải quyết vấn đề chi phí triển khai AI đắt đỏ. Được xây dựng dựa trên biến thể sau huấn luyện của mô hình mã nguồn mở GLM-5.2 của Z.ai, hệ thống mới này hứa hẹn cung cấp khả năng sẵn sàng triển khai với chi phí thấp hơn nhiều. Công ty ước tính rằng mô hình mới, kết hợp với những thay đổi trong cơ sở hạ tầng khung, sẽ giúp khách hàng cắt giảm chi phí lên tới 50% cho các tác vụ cơ bản. Cùng với mô hình mới, công ty cũng phát hành các nâng cấp đáng kể cho khung tác nhân tiêu chuẩn của mình; cả hai tính năng này sẽ có sẵn cho khách hàng của Writer từ thứ Năm. CEO May Habib đã chia sẻ với TechCrunch rằng các doanh nghiệp đang chán việc chạy theo các tiêu chuẩn đánh giá và muốn chi phí được giảm xuống. Cách tiếp cận mới nhấn mạnh vào các tác vụ phức tạp, nhiều bước được thực hiện nhanh hơn và sử dụng ít token hơn, với việc tối ưu hóa khung là một đòn bẩy quan trọng. Một bài nghiên cứu gần đây của các nhà nghiên cứu Writer cho thấy rằng những thay đổi về hiệu quả khung là một cách đáng tin cậy hơn để giảm chi phí so với việc lựa chọn mô hình, với chi phí giảm trung bình 40% trong các cuộc thử nghiệm. Đối với khách hàng, trải nghiệm vẫn không phụ thuộc vào mô hình: Palmyra X6 sẽ nằm cùng với các mô hình Writer khác hoặc các mô hình bên ngoài được nhập thông qua Azure hoặc Amazon Bedrock. Habib cũng nhận thấy rằng việc thúc đẩy cắt giảm chi phí này đang làm gia tăng sự ngờ vực đối với các phòng thí nghiệm AI lớn, vốn có động cơ tài chính để tăng cường sử dụng token.