Архитектура LLM-агентов для начинающих
Статья, основанная на докладе на внутреннем митапе, объясняет, как сырой LLM-сервер превращается в полноценную агентную систему. Рассматриваются ключевые компоненты: хранение контекста чата, поиск в интернете, RAG для локальных данных, инструменты, системные промпты, оркестрация и протокол MCP.
Статья использует метафору рыбки Дори для описания «голого» LLM-сервера, которому не хватает кратковременной памяти и способности действовать. Чтобы сделать его полезным, добавляется несколько слоев: хранение контекста чата для истории разговора; поиск в интернете для подтверждения ответов актуальными данными; локальный поиск через RAG для включения частных знаний; инструменты, позволяющие модели
Показать ещё ↓
Источник: Habr — хаб ML —
оригинал