IBM ký thỏa thuận 240 triệu đô la với Together AI

IBM đã công bố thỏa thuận trị giá 240 triệu đô la Mỹ trong nhiều năm với Together AI, công ty chuyên về cơ sở hạ tầng đám mây cho trí tuệ nhân tạo (AI), để triển khai cơ sở hạ tầng AI trên IBM Cloud nhằm đáp ứng nhu cầu cao về năng lực tính toán AI. Dự án tập trung vào một cụm máy tính dựa trên hệ thống NVIDIA HGX B300, trang bị bộ xử lý Blackwell và mạng Spectrum-X, với giai đoạn đầu bao gồm khoảng 2.000 GPU Blackwell 300 được lắp đặt tại Hoa Kỳ. Cơ sở hạ tầng này sẽ chủ yếu dành cho suy luận (inference) - việc thực thi các mô hình đã được huấn luyện để tạo ra phản hồi, sinh nội dung hoặc vận hành các tác tử AI trong sản xuất. Suy luận đã trở thành động lực thực sự cho nhu cầu năng lực tính toán, thúc đẩy các nhà cung cấp đám mây và các nhà sản xuất chip đầu tư mạnh mẽ. Đối với Together AI, thỏa thuận này mang lại cơ hội để tăng tốc các dịch vụ của họ xoay quanh các mô hình mã nguồn mở; được thành lập vào năm 2022, công ty chuyên triển khai quy mô lớn các mô hình như DeepSeek, MiniMax hoặc Kimi, và tuyên bố xử lý hơn 400.000 tỷ token mỗi tháng, gần đây đã huy động được 800 triệu đô la Mỹ với định giá 8,3 tỷ đô la Mỹ. Đối với IBM, quan hệ đối tác này nhằm củng cố các dịch vụ đám mây và AI doanh nghiệp của họ, cạnh tranh với AWS, Microsoft Azure và Google Cloud. Cụm máy tính dự kiến sẽ đi vào hoạt động trong quý đầu tiên của năm 2027, với một phần đáng kể công suất có thể được đặt trước nhiều tháng trước khi ra mắt.