Moonshot AI trainde Kimi K3 op Nvidia Blackwell-chips ondanks Amerikaanse en Chinese verboden, maar het is niet zeker

Volgens berichten heeft de Chinese AI-startup Moonshot AI zijn revolutionaire Kimi K3-model getraind met behulp van Nvidia Blackwell-versnellers, waarbij zowel de Amerikaanse exportcontroles als de Chinese importbeperkingen werden omzeild. Om voldoende Blackwell-chips te verkrijgen, werkte het bedrijf samen met twee lokale datacenter-exploitanten die de versnellers ondanks de verboden hadden verworven. Moonshot AI ontwikkelde vervolgens een methode om meerdere Blackwell-servers in verschillende datacenters te combineren om voldoende rekenkracht voor de training te leveren. De opkomst van Kimi K3 heeft een nieuwe golf van AI-ontwikkelingsconcurrentie in China aangewakkerd, waar binnenlandse versnellers een of twee generaties achterlopen op de hardware van Nvidia. Voor inferentie gebruikt Moonshot AI Nvidia HGX H20-versnellers, die in China zijn toegestaan. Het bedrijf raadt ten minste 64 H20-chips aan om Kimi K3 te draaien, en de vraag heeft de beschikbare rekenkracht al uitgeput. Bovendien heeft Moonshot AI Nvidia GB300-systemen gekocht en GB300-capaciteit geleased in Thailand, aldus Michael Kratsios, AI-adviseur van het Witte Huis. De aankoop schendt zowel de Amerikaanse als de Chinese verboden, terwijl de lease legaal blijft omdat Washington nog niet heeft verboden dat Chinese bedrijven gesanctioneerde apparatuur huren.