Arsitektur Agen LLM untuk Pemula
LangChain
CrewAI
Dify
LlamaIndex
Meta
LM Studio
Artikel ini, berdasarkan pembicaraan di pertemuan internal, menjelaskan bagaimana server LLM mentah berkembang menjadi sistem agen yang lengkap. Ini mencakup komponen-kunci: penyimpanan konteks obrolan, pencarian internet, RAG untuk data lokal, alat, prompt sistem, orkestrasi, dan protokol MCP.
Artikel ini menggunakan metafora ikan bernama Dory untuk menggambarkan server LLM yang telanjang, yang tidak memiliki memori jangka pendek dan kemampuan untuk bertindak. Untuk membuatnya berguna, beberapa lapisan ditambahkan: penyimpanan konteks obrolan untuk riwayat percakapan; pencarian internet untuk mendasarkan jawaban pada data terkini; pengambilan lokal melalui RAG untuk menggabungkan pengetahuan pribadi; alat yang memungkinkan model meminta tindakan, yang dieksekusi oleh sistem luar; prompt sistem untuk perilaku yang konsisten; dan orkestrasi dengan siklus rencana-eksekusi-periksa untuk otonomi. Protokol MCP menstandarkan antarmuka alat, dan penulis mencatat bahwa meskipun model menjadi semakin mampu, mereka tetap sederhana pada intinya. Artikel ini diakhiri dengan mendaftarkan kerangka kerja dan alat seperti LangChain, CrewAI, Dify, LlamaIndex, dan lainnya yang dibangun di atas prinsip-prinsip ini.
Sumber: Habr — хаб ML —
asli