Moonshot AI Latih Kimi K3 di Chip Nvidia Blackwell Meskipun Ada Larangan AS dan China, namun Belum Pasti

Startup AI asal China, Moonshot AI, dilaporkan melatih model revolusionernya, Kimi K3, menggunakan akselerator Nvidia Blackwell, dengan cara menghindari kontrol ekspor AS dan larangan impor China. Untuk mendapatkan cukup chip Blackwell, perusahaan tersebut bermitra dengan dua operator pusat data lokal yang telah memperoleh akselerator tersebut meskipun ada larangan. Moonshot AI kemudian mengembangkan metode untuk menggabungkan beberapa server Blackwell di berbagai pusat data guna menyediakan daya komputasi yang cukup untuk pelatihan. Kemunculan Kimi K3 telah mendorong gelombang baru persaingan pengembangan AI di China, di mana akselerator domestik tertinggal satu atau dua generasi di belakang perangkat keras Nvidia. Untuk inferensi, Moonshot AI menggunakan akselerator Nvidia HGX H20, yang diizinkan di China. Perusahaan merekomendasikan setidaknya 64 chip H20 untuk menjalankan Kimi K3, dan permintaan telah menghabiskan kapasitas komputasi yang tersedia. Selain itu, Moonshot AI telah membeli sistem Nvidia GB300 dan menyewa kapasitas GB300 di Thailand, menurut penasihat AI Gedung Putih, Michael Kratsios. Pembelian tersebut melanggar larangan AS dan China, sementara penyewaan tetap legal karena Washington belum melarang perusahaan China menyewa peralatan yang terkena sanksi.