初心者向けLLMエージェントアーキテクチャ

記事では、ドリーという魚の比喩を使って、短期記憶と行動能力を欠いた素のLLMサーバーを表現しています。それを有用にするために、いくつかの層が追加されます：チャット履歴を保存する会話コンテキストストレージ、現在のデータに基づいて回答を裏付けるインターネット検索、プライベートな知識を取り込むためのRAG（検索拡張生成）によるローカル検索、モデルがアクションを要求できるようにし、外部システムが実行するツール、一貫した動作のためのシステムプロンプト、そして自律性のための「計画・実行・検証」サイクルによるオーケストレーションです。MCPプロトコルはツールインターフェースを標準化し、著者はモデルがより高性能になっている一方で、その核となる部分は依然として単純であると指摘しています。記事は最後に、LangChain、CrewAI、Dify、LlamaIndex、その他これらの原則に基づいて構築されたフレームワークやツールを列挙しています。