Donanım Yönlendirme İlkeleri: Kalın ve İnce Donanım, Erken Reddetme ve Gereksiz LLM Çağrılarından Kaçınma
DeepMind
Anthropic
OpenAI
Makale, AI ajanları için bir donanım oluşturmanın mimari ilkelerini ele alıyor; kalın ve ince donanım arasındaki seçimi, yürütülemeyen isteklerin erken reddedilmesini ve gereksiz LLM çağrılarından kaçınmayı vurguluyor. Model yeteneği ile maliyeti dengelemek için varlık türlerini ve bir yönlendirme hattını tanıtıyor.
Bu makale, yapay zeka ajan sistemlerinde yönlendirme (routing) konusuna odaklanan bir eğitimin üçüncü bölümüdür. Zayıf modellere Intent, Route, Shortcut, Capability ve ContextRequirement gibi varlıklar ekleyerek yardımcı olan 'kalın' bir donanım ile güçlü modellere dayanan ve Capability, Workflow, ToolContract, Policy, Approval, Task ve Trace'i vurgulayan 'ince' bir donanımı karşılaştırır. Mümkün olduğunda ince donanımın kullanılması gerektiğini, ancak kalın donanımın güvenlik sınırlarından ödün vermeden model zayıflıklarını telafi edebileceğini savunur. Temel bir ilke, yürütülemeyecek istekleri giriş normalizasyonu, bağlam bağlama, erişim kontrolleri, iş akışı seçimi ve politika kapıları gibi adımlarla mümkün olduğunca erken reddetmektir. Makale ayrıca gerekmediğinde LLM'leri kullanmamayı, yapılandırılmış olayları veya kesin komutları modeller yerine kodla ele almayı, böylece kaynak tasarrufu sağlamayı ve hataları azaltmayı vurgular. Donanım kalınlığının seçiminin temel tasarım sorusu olduğundan ve kalın donanımların niyet tanımayı modele taşıyarak kademeli olarak 'inceltilebileceğinden' bahseder.
Kaynak: Habr — хаб ИИ —
orijinal
