28 triliun token bukanlah batas: Model AI China Kimi K4 bercita-cita lebih tinggi, GPU menjadi hambatan

Moonshot AI, pengembang seri model bahasa besar Kimi, telah mengumumkan model generasi berikutnya, Kimi K4. Pendiri dan kepala eksekutif perusahaan menyatakan bahwa skala Kimi K4 akan melampaui Kimi K3, yang dilatih pada 28,8 triliun token. Ia menekankan bahwa batasan utama pada ukuran model bukanlah ambisi teknologi, melainkan ketersediaan unit pemrosesan grafis (GPU), dengan menunjukkan kendala perangkat keras sebagai hambatan utama.