Adaptive Parallel Reasoning: A New Paradigm for Efficient Scaling of AI Inference

Laboratorium BAIR (Berkeley AI Research) memperkenalkan tinjauan pendekatan baru — Adaptive Parallel Reasoning (APR), yang memungkinkan model AI memutuskan sendiri kapan harus membagi tugas menjadi subtugas paralel, berapa banyak thread yang dijalankan, dan bagaimana mengoordinasikannya. Metode tradisional seperti self-consistency atau best-of-N menggunakan struktur paralelisme tetap, yang mengakibatkan komputasi redundan. Pendekatan lain, seperti Tree-of-Thoughts atau Monte-Carlo Tree Search (MCTS), memerlukan heuristik yang ditentukan sebelumnya untuk dekomposisi. APR menggeneralisasi ide ini: model dilatih dengan pembelajaran penguatan untuk menghasilkan token kontrol khusus yang menentukan kapan harus berpikir secara sekuensial dan kapan secara paralel. Hal ini memungkinkan adaptasi dinamis tingkat paralelisme sesuai dengan kompleksitas tugas, menghindari redundansi pada pertanyaan sederhana dan memastikan dekomposisi yang tepat pada pertanyaan kompleks. Untuk menjalankan cabang paralel, digunakan arsitektur fork-join: model menghasilkan subtugas yang diproses secara paralel, kemudian hasilnya digabungkan. Untuk pengelolaan KV cache yang efisien, dilakukan modifikasi pada mesin inferensi, seperti Multiverse, Parallel-R1, dan NPR, yang menyalin dan menggabungkan KV cache dari thread independen menjadi satu urutan. Namun, ini memerlukan perubahan pada mesin dan dapat menyebabkan ketidakstabilan. Pendekatan alternatif adalah menggunakan renderer universal yang berjalan tanpa modifikasi mesin. Secara keseluruhan, APR dipandang sebagai paradigma baru yang memungkinkan penskalaan waktu penalaran tanpa peningkatan latensi linier dan kehilangan kualitas akibat 'context decay'.