Architecture des agents LLM pour les débutants
LangChain
CrewAI
Dify
LlamaIndex
Meta
LM Studio
Cet article, basé sur une présentation lors d'un meetup interne, explique comment un serveur LLM brut évolue en un système d'agent complet. Il couvre les composants clés : le stockage du contexte de chat, la recherche sur Internet, le RAG pour les données locales, les outils, les prompts système, l'orchestration et le protocole MCP.
L'article utilise la métaphore d'un poisson nommé Dory pour décrire un serveur LLM nu, qui manque de mémoire à court terme et de capacité d'agir. Pour le rendre utile, plusieurs couches sont ajoutées : le stockage du contexte de chat pour l'historique de la conversation ; la recherche internet pour ancrer les réponses dans des données actuelles ; la récupération locale via RAG pour incorporer des connaissances privées ; des outils qui permettent au modèle de demander des actions, exécutées par le système externe ; des invites système pour un comportement cohérent ; et l'orchestration avec un cycle de planification-exécution-vérification pour l'autonomie. Le protocole MCP standardise les interfaces des outils, et l'auteur note que bien que les modèles deviennent plus capables, ils restent simples au cœur. L'article conclut en listant des frameworks et des outils comme LangChain, CrewAI, Dify, LlamaIndex, et d'autres qui se construisent sur ces principes.
Source: Habr — хаб ML —
original