Kimi K3 Bersumber Terbuka: Anthropic Akhirnya Membuka Kartu

Moonshot AI telah merilis model Kimi K3 sebagai open-source, dengan kinerja benchmark yang sebanding dengan Claude Sonnet 4 milik Anthropic. Rilis open-source ini mencakup bobot model dan laporan teknis. Laporan tersebut mengungkapkan bahwa Anthropic telah mengadopsi versi yang diperbesar dari rasio optimal Chinchilla, yang mendukung ukuran batch yang lebih besar dan tingkat pembelajaran yang lebih tinggi untuk pelatihan yang lebih efisien. Kimi K3 didasarkan pada arsitektur Mixture of Experts (MoE), dengan total 48 ahli dan 2 ahli aktif per token, dengan 37 miliar parameter yang diaktifkan dari total 264 miliar parameter. Model ini dirancang untuk penskalaan dan efisiensi, dengan panjang konteks 128K dan pelatihan presisi campuran FP8. Open-source-nya Kimi K3 dipandang sebagai langkah untuk mendemokratisasi akses ke AI canggih dan menantang pemain mapan seperti Anthropic dan OpenAI.