हार्नेस रूटिंग सिद्धांत: मोटा बनाम पतला हार्नेस, प्रारंभिक अस्वीकृति, और अनावश्यक एलएलएम कॉल से बचना
DeepMind
Anthropic
OpenAI
यह लेख एआई एजेंटों के लिए हार्नेस बनाने के वास्तुशिल्प सिद्धांतों पर चर्चा करता है, जिसमें मोटे और पतले हार्नेस के बीच चयन, अव्यवहार्य अनुरोधों की प्रारंभिक अस्वीकृति, और अनावश्यक एलएलएम कॉल से बचने पर जोर दिया गया है। यह मॉडल क्षमता और लागत को संतुलित करने के लिए इकाई प्रकार और एक रूटिंग पाइपलाइन पेश करता है।
यह लेख, हार्नेस पर ट्यूटोरियल का तीसरा भाग, AI एजेंट सिस्टम में रूटिंग पर केंद्रित है। यह एक 'मोटे' हार्नेस के विपरीत है, जो Intent, Route, Shortcut, Capability और ContextRequirement जैसी संस्थाओं को जोड़कर कमजोर मॉडलों की मदद करता है, और एक 'पतले' हार्नेस के विपरीत है, जो मजबूत मॉडलों पर निर्भर करता है और Capability, Workflow, ToolContract, Policy, Approval, Task और Trace पर जोर देता है। यह तर्क देता है कि जब संभव हो तो पतले हार्नेस का उपयोग किया जाना चाहिए, लेकिन मोटा हार्नेस सुरक्षा सीमाओं से समझौता किए बिना मॉडल की कमजोरियों की भरपाई कर सकता है। एक प्रमुख सिद्धांत अव्यवस्थित अनुरोधों को जितनी जल्दी हो सके अस्वीकार करना है, जैसे कि इनपुट सामान्यीकरण, संदर्भ बंधन, पहुंच जांच, कार्यप्रवाह चयन और नीति गेट जैसे चरणों के माध्यम से। यह लेख आवश्यकता न होने पर LLM का उपयोग न करने पर भी जोर देता है, संरचित घटनाओं या सटीक कमांड को मॉडल के बजाय कोड से संभालना, संसाधनों को बचाने और त्रुटियों को कम करने के लिए। यह उल्लेख करता है कि हार्नेस की मोटाई का चुनाव मौलिक डिजाइन प्रश्न है, और मोटे हार्नेस को धीरे-धीरे 'पतला' किया जा सकता है, इंटेंट पहचान को मॉडल में स्थानांतरित करके।
स्रोत: Habr — хаб ИИ —
मूल
