LLM-Agent-Architektur für Einsteiger
LangChain
CrewAI
Dify
LlamaIndex
Meta
LM Studio
Der Artikel, basierend auf einem Vortrag bei einem internen Meetup, erklärt, wie sich ein roher LLM-Server zu einem vollständigen Agentensystem entwickelt. Er behandelt Schlüsselkomponenten: Chat-Kontextspeicher, Internetsuche, RAG für lokale Daten, Tools, Systemprompts, Orchestrierung und das MCP-Protokoll. (RAG steht für Retrieval-Augmented Generation, MCP für Model Context Protocol.)
Der Artikel verwendet die Metapher eines Fisches namens Dory, um einen nackten LLM-Server zu beschreiben, dem das Kurzzeitgedächtnis und die Fähigkeit zum Handeln fehlen. Um ihn nützlich zu machen, werden mehrere Schichten hinzugefügt: die Speicherung des Chat-Kontexts für den Gesprächsverlauf; eine Internetsuche, um Antworten auf aktuelle Daten zu stützen; lokale Abfrage über RAG, um privates Wissen einzubeziehen; Werkzeuge, die es dem Modell ermöglichen, Aktionen anzufordern, die vom äußeren System ausgeführt werden; System-Prompts für konsistentes Verhalten; und Orchestrierung mit einem Plan-Ausführung-Überprüfung-Zyklus für Autonomie. Das MCP-Protokoll standardisiert Werkzeugschnittstellen, und der Autor stellt fest, dass Modelle zwar immer leistungsfähiger werden, aber im Kern einfach bleiben. Der Artikel schließt mit einer Auflistung von Frameworks und Werkzeugen wie LangChain, CrewAI, Dify, LlamaIndex und anderen, die auf diesen Prinzipien aufbauen.
Quelle: Habr — хаб ML —
Original