Alibaba levert Moonshot rekenkracht van 20.000 Nvidia-chips voor training van Kimi-modellen

Bloomberg heeft vernomen dat de Chinese internetgigant Alibaba heeft ingestemd met het leveren van een rekencluster met 20.000 Nvidia-chips van de Hopper-generatie, specifiek H200-versnellers, aan AI-startup Moonshot. Deze zijn architectonisch minder geavanceerd dan de eerder besproken Blackwell-familie. Dit gehuurde cluster vormt het grootste deel van de rekenkracht die Moonshot kan gebruiken om zijn Kimi AI-modellen te trainen. De samenwerking is niet verrassend, aangezien Alibaba een van de grootste investeerders in Moonshot is en traditioneel rekenkracht verhuurt aan bedrijven die het financieel ondersteunt. Vertegenwoordigers van Alibaba ontkenden dat ze Nvidia H200-chips aan Moonshot leverden, maar betwistten niet dat het aantal Nvidia-chips 20.000 bedroeg. Het succes van de Kimi-modellen, die concurreren met Alibaba's eigen Qwen-familie, heeft sommige Alibaba-bestuurders teleurgesteld, omdat het bedrijf feitelijk een serieuze concurrent heeft gekweekt. Amerikaanse functionarissen geloven dat toegang tot Nvidia Blackwell-versnellers niet alleen voor Moonshot beschikbaar is, maar ook voor DeepSeek, mogelijk via verhuur van een bedrijf in Thailand. Bovendien vermoeden Amerikaanse functionarissen dat Moonshot destillatie van Anthropic's geavanceerde model Fable heeft gebruikt om Kimi K3 te trainen, met indrukwekkende resultaten met beperkte middelen. Amerikaanse wetten verbieden Chinese ontwikkelaars niet om rekenkracht met geavanceerde Nvidia-chips buiten China te huren, maar staan hen niet toe dergelijke chips te kopen. Officiële leveringen van Nvidia H200-versnellers aan China blijven onbeduidend.