Keadaan LLM pada 2025: Kemajuan, Tantangan, dan Prediksi

Menjelang akhir 2025, tahun ini didominasi oleh model penalaran yang menggunakan RLVR dan GRPO, menyusul perilisan DeepSeek R1 pada Januari. DeepSeek R1 menunjukkan bahwa perilaku penalaran dapat dikembangkan dengan pembelajaran penguatan (reinforcement learning), dan model bobot terbukanya (open-weight) memiliki kinerja sebanding dengan model kepemilikan (proprietary). Makalah ini juga memicu perdebatan tentang biaya pelatihan, dengan perkiraan sekitar $5 juta untuk proses akhir, meskipun tidak termasuk gaji peneliti. RLVR menggunakan imbalan yang dapat diverifikasi (misalnya, matematika, kode) untuk pelatihan pasca (post-training), mengurangi ketergantungan pada label manusia yang mahal. Hampir setiap pengembang LLM besar merilis varian penalaran. Poin fokus lainnya: 2022 RLHF+PPO, 2023 LoRA SFT, 2024 pelatihan tengah (mid-training). Prediksi untuk 2026-2027 mencakup perluasan RLVR, penskalaan waktu inferensi (inference-time scaling), dan pembelajaran berkelanjutan (continual learning). GRPO menjadi primadona penelitian, dengan banyak penyempurnaan matematis seperti penyaringan gradien nol, pengambilan sampel aktif, kerugian tingkat token, dan tanpa kerugian KL (KL loss), yang secara signifikan meningkatkan stabilitas pelatihan. Secara arsitektur, model-model tercanggih (state-of-the-art) masih menggunakan transformer bergaya decoder dengan lapisan MoE dan perhatian yang dioptimalkan efisiensi (grouped-query, sliding-window, multi-head latent attention). Penyempurnaan efisiensi yang lebih baru mencakup Gated DeltaNets di Qwen3-Next dan Kimi Linear, serta lapisan Mamba-2 di Nemotron 3 milik NVIDIA.