LLM-agentarchitectuur voor beginners
LangChain
CrewAI
Dify
LlamaIndex
Meta
LM Studio
Het artikel, gebaseerd op een presentatie tijdens een interne meetup, legt uit hoe een onbewerkte LLM-server uitgroeit tot een volledig agentsysteem. Het behandelt de belangrijkste onderdelen: opslag van chatcontext, internetzoekopdrachten, RAG voor lokale gegevens, tools, systeemprompts, orkestratie en het MCP-protocol.
Het artikel gebruikt de metafoor van een vis genaamd Dory om een kale LLM-server te beschrijven, die geen kortetermijngeheugen en het vermogen om te handelen mist. Om hem nuttig te maken, worden er verschillende lagen toegevoegd: opslag van chatcontext voor gespreksgeschiedenis; internetzoekopdrachten om antwoorden te baseren op actuele gegevens; lokale retrieval via RAG om privékennis op te nemen; tools waarmee het model acties kan aanvragen, uitgevoerd door het buitenste systeem; systeemprompts voor consistent gedrag; en orkestratie met een plan-voer uit-controleer-cyclus voor autonomie. Het MCP-protocol standaardiseert toolinterfaces, en de auteur merkt op dat modellen, hoewel ze steeds capabeler worden, in de kern eenvoudig blijven. Het artikel besluit met een opsomming van frameworks en tools zoals LangChain, CrewAI, Dify, LlamaIndex en andere die op deze principes voortbouwen.
Bron: Habr — хаб ML —
origineel