面向初学者的LLM智能体架构

文章用一条名叫多莉的鱼作比喻，来描述一个裸的LLM服务器，它缺乏短期记忆和行动能力。为了让它变得有用，需要在其上添加几个层面：用于存储对话历史的聊天上下文；用于基于当前数据来锚定答案的互联网搜索；通过RAG进行的本地检索，以纳入私有知识；允许模型请求行动的工具，由外部系统执行；用于保持行为一致的系统提示；以及通过计划-执行-检查循环来实现自主性的编排。MCP协议对工具接口进行了标准化，作者指出，尽管模型正变得越来越强大，但它们的核心仍然简单。文章最后列举了诸如LangChain、CrewAI、Dify、LlamaIndex等框架和工具，它们都是基于这些原理构建的。