Bir Kodlama Ajanının Altı Temel Bileşeni: Modern Yapay Zeka Sistemleri Nasıl Kod Yazıyor
Anthropic
OpenAI
Kodlama ajanları, büyük dil modellerini (LLM'ler) araçlar, bellek ve depo bağlamı ile birleştirerek sade sohbet arayüzlerinden daha iyi performans gösterir. Yazar, altı ana yapı taşı belirliyor: canlı depo bağlamı, komut şekli ve önbellek yeniden kullanımı, doğrulamalı yapılandırılmış araçlar, bağlam azaltma, transkriptler ve bellek, ve alt ajanlar aracılığıyla delegasyon. Çevreleyen sistem genellikle modelin kendisi kadar önemlidir.
Detaylı bir makalede Sebastian Raschka, Mini Kodlama Ajanı'nı somut bir örnek olarak kullanarak kodlama ajanlarının ve donanımlarının tasarımını açıklıyor. LLM'ler (büyük dil modelleri), akıl yürütme modelleri, ajanlar ve ajan donanımları arasında ayrım yapıyor. Altı temel bileşen şunlardır: 1) canlı repo bağlamı (git dalı, README vb. gibi çalışma alanı gerçeklerini toplama), 2) komut şekli ve önbellek yeniden kullanımı (yeniden işlemeyi önlemek için kararlı öneki dinamik kısımlardan ayırma), 3) doğrulama ve izinlerle yapılandırılmış araçlar (doğrulanmış argümanlar ve güvenlik kontrolleri ile bilinen araçlar), 4) bağlam azaltma ve çıktı yönetimi (şişmeyi kontrol etmek için ilgisiz geçmişi kırpma), 5) transkriptler, bellek ve devam ettirme (oturum deposu, kısa süreli bellek, görevleri devam ettirme yeteneği) ve 6) delegasyon ve sınırlandırılmış alt ajanlar (alt ajanlara iş devredebilen araçlar). Yazar ayrıca, modern LLM'lerin benzer ham yeteneklere sahip olması nedeniyle donanımın modeller arasında ayırt edici faktör olabileceğini belirtiyor.
Kaynak: Sebastian Raschka —
orijinal
