Alibaba cung cấp cho Moonshot sức mạnh tính toán của 20.000 chip Nvidia để đào tạo mô hình Kimi

Bloomberg đã biết được rằng gã khổng lồ internet Trung Quốc Alibaba đã đồng ý cung cấp cho startup AI Moonshot một cụm máy tính chứa 20.000 chip Nvidia thuộc thế hệ Hopper, cụ thể là các bộ gia tốc H200, loại có kiến trúc kém hơn so với dòng Blackwell đã được đề cập trước đó. Cụm máy tính đi thuê này chiếm phần lớn năng lực tính toán mà Moonshot có thể sử dụng để huấn luyện các mô hình AI Kimi của mình. Sự hợp tác này không có gì bất ngờ khi Alibaba là một trong những nhà đầu tư lớn nhất của Moonshot và theo truyền thống, hãng thường cho thuê năng lực tính toán đối với các công ty mà mình hỗ trợ về tài chính. Đại diện Alibaba đã phủ nhận việc cung cấp chip Nvidia H200 cho Moonshot, nhưng không phản đối con số khoảng 20.000 chip Nvidia nào đó. Thành công của các mô hình Kimi, vốn đang cạnh tranh với dòng Qwen của chính Alibaba, đã khiến một số lãnh đạo của Alibaba thất vọng, vì công ty gần như đã vô tình nuôi dưỡng một đối thủ cạnh tranh đáng gờm. Các quan chức Mỹ tin rằng quyền truy cập vào các bộ gia tốc Nvidia Blackwell không chỉ dành cho Moonshot mà còn cho DeepSeek, có thể thông qua việc thuê từ một công ty có trụ sở tại Thái Lan. Hơn nữa, các quan chức Mỹ nghi ngờ Moonshot đã sử dụng phương pháp chưng cất (distillation) từ mô hình tiên tiến Fable của Anthropic để huấn luyện Kimi K3, nhờ đó đạt được những kết quả đáng kinh ngạc với nguồn lực hạn chế. Luật pháp Mỹ không cấm các nhà phát triển Trung Quốc thuê năng lực tính toán sử dụng chip Nvidia tiên tiến ở bên ngoài Trung Quốc, nhưng không cho phép họ mua các loại chip này. Các lô hàng chính thức của bộ gia tốc Nvidia H200 sang Trung Quốc vẫn còn rất hạn chế.