Moonshot AI đã huấn luyện Kimi K3 trên chip Nvidia Blackwell bất chấp lệnh cấm của Mỹ và Trung Quốc, nhưng chưa chắc chắn

Công ty khởi nghiệp AI Trung Quốc Moonshot AI được cho là đã huấn luyện mô hình Kimi K3 mang tính cách mạng của mình bằng cách sử dụng bộ tăng tốc Blackwell của Nvidia, vượt qua cả các biện pháp kiểm soát xuất khẩu của Mỹ và các hạn chế nhập khẩu của Trung Quốc. Để có đủ chip Blackwell, công ty đã hợp tác với hai nhà vận hành trung tâm dữ liệu địa phương đã mua được các bộ tăng tốc này bất chấp lệnh cấm. Moonshot AI sau đó đã phát triển một phương pháp kết hợp nhiều máy chủ Blackwell tại các trung tâm dữ liệu khác nhau để cung cấp đủ sức mạnh tính toán cho quá trình huấn luyện. Sự xuất hiện của Kimi K3 đã thúc đẩy một làn sóng cạnh tranh phát triển AI mới tại Trung Quốc, nơi các bộ tăng tốc trong nước tụt hậu một hoặc hai thế hệ so với phần cứng của Nvidia. Đối với suy luận, Moonshot AI sử dụng bộ tăng tốc Nvidia HGX H20, vốn được phép sử dụng tại Trung Quốc. Công ty khuyến nghị ít nhất 64 chip H20 để chạy Kimi K3, và nhu cầu đã làm cạn kiệt công suất tính toán hiện có. Ngoài ra, Moonshot AI đã mua hệ thống Nvidia GB300 và thuê công suất GB300 tại Thái Lan, theo cố vấn AI của Nhà Trắng Michael Kratsios. Việc mua bán vi phạm cả lệnh cấm của Mỹ và Trung Quốc, trong khi việc thuê vẫn hợp pháp vì Washington chưa cấm các công ty Trung Quốc thuê thiết bị bị trừng phạt.