शुरुआती लोगों के लिए LLM एजेंट आर्किटेक्चर
LangChain
CrewAI
Dify
LlamaIndex
Meta
LM Studio
यह लेख, एक आंतरिक मीटअप में दिए गए भाषण पर आधारित है, जो बताता है कि एक कच्चा LLM सर्वर पूर्ण एजेंट सिस्टम में कैसे विकसित होता है। इसमें प्रमुख घटकों को शामिल किया गया है: चैट संदर्भ भंडारण, इंटरनेट खोज, स्थानीय डेटा के लिए RAG, टूल्स, सिस्टम प्रॉम्प्ट्स, ऑर्केस्ट्रेशन, और MCP प्रोटोकॉल।
यह लेख डोरी नामक मछली के रूपक का उपयोग करके एक बेयर LLM सर्वर का वर्णन करता है, जिसमें अल्पकालिक स्मृति और कार्य करने की क्षमता का अभाव होता है। इसे उपयोगी बनाने के लिए, कई परतें जोड़ी जाती हैं: वार्तालाप इतिहास के लिए चैट संदर्भ भंडारण; वर्तमान डेटा में उत्तरों को आधारित करने के लिए इंटरनेट खोज; निजी ज्ञान को शामिल करने के लिए RAG के माध्यम से स्थानीय पुनर्प्राप्ति; उपकरण जो मॉडल को क्रियाओं का अनुरोध करने की अनुमति देते हैं, जिन्हें बाहरी प्रणाली द्वारा निष्पादित किया जाता है; सुसंगत व्यवहार के लिए सिस्टम प्रॉम्प्ट; और स्वायत्तता के लिए योजना-करें-जांच चक्र के साथ ऑर्केस्ट्रेशन। MCP प्रोटोकॉल उपकरण इंटरफेस को मानकीकृत करता है, और लेखक नोट करता है कि जबकि मॉडल अधिक सक्षम होते जा रहे हैं, वे अपने मूल में सरल बने हुए हैं। लेख LangChain, CrewAI, Dify, LlamaIndex, और अन्य जैसे ढाँचों और उपकरणों की सूची के साथ समाप्त होता है जो इन सिद्धांतों पर निर्मित हैं।
स्रोत: Habr — хаб ML —
मूल