Uyarlamalı Paralel Akıl Yürütme: Verimli Yapay Zeka Çıkarım Ölçeklemesi için Yeni Bir Paradigma
Berkeley Artificial Intelligence Research
Uyarlamalı Paralel Akıl Yürütme (APR), büyük dil modellerinin akıl yürütme alt görevlerini ne zaman ve nasıl paralelleştireceklerine dinamik olarak karar vermeyi öğrendikleri, gereksiz hesaplamayı önleyen ve verimliliği artıran bir paradigmadır. Sabit paralellik yöntemlerinin aksine APR, modellerin problem başına ayrıştırma stratejileri, iş parçacığı sayıları ve koordinasyon seçmelerine olanak tanır ve pekiştirmeli öğrenme ile özel kontrol token'larından yararlanır.
BAIR blog yazısı, Büyük Dil Modelleri (LLM) çıkarımını verimli bir şekilde ölçeklendirmek için bir paradigma olarak Uyarlamalı Paralel Akıl Yürütme'yi (APR) tanıtıyor. Geleneksel sıralı akıl yürütme, keşifle doğrusal olarak ölçeklenir ve gecikme ile bağlam dönüşü sorunlarına neden olur. Öz-tutarlılık, Düşünce Ağaçları veya Monte Carlo Ağaç Araması (MCTS) gibi mevcut paralel yöntemler, sabit paralel yapılar dayatır ve basit problemlerde hesaplama israfına yol açar. Pan ve diğerleri (2025) tarafından öncülüğü yapılan APR, modelleri Pekiştirmeli Öğrenme (RL) yoluyla, ne zaman paralel veya sıralı akıl yürüteceklerini kontrol eden özel token'lar çıkarmak üzere eğitir. ThreadWeaver (Lian ve diğerleri, 2025) bir APR yöntemidir. Çıkarım yürütme, çatalla-birleştir (fork-join) tasarımı kullanır; Multiverse gibi yaklaşımlar, sentez sırasında Anahtar-Değer (KV) önbelleğini yeniden kullanmak için çıkarım motorunu değiştirirken, dal çözme tabanlı yöntemler gibi diğerleri motor değişikliklerinden kaçınır. Temel faydalar: alana özgü buluşsal yöntemlerin olmaması, azaltılmış gereksizlik ve görev karmaşıklığına göre uyarlamalı paralellik.
Kaynak: BAIR (Berkeley AI) —
orijinal