LLM-agenttiarkkitehtuuri aloittelijoille
LangChain
CrewAI
Dify
LlamaIndex
Meta
LM Studio
Artikkelissa, joka perustuu sisäisen tapaamisen esitykseen, selitetään, miten raaka LLM-palvelin kehittyy täysimittaiseksi agenttijärjestelmäksi. Siinä käsitellään keskeisiä osia: keskustelukontekstin tallennus, internethaku, RAG paikalliselle datalle, työkalut, järjestelmäpromptit, orkestrointi ja MCP-protokolla.
Artikkelissa käytetään Dory-nimisen kalan vertauskuvaa kuvaamaan paljasta LLM-palvelinta, jolta puuttuu lyhytaikainen muisti ja kyky toimia. Sen hyödylliseksi tekemiseksi lisätään useita kerroksia: keskustelukontekstin tallennus keskusteluhistoriaa varten; internethaku, joka perustaa vastaukset ajankohtaiseen tietoon; paikallinen haku RAG:n avulla yksityisen tiedon sisällyttämiseksi; työkalut, joiden avulla malli voi pyytää toimintoja, jotka ulkoinen järjestelmä suorittaa; järjestelmäkehotteet johdonmukaista käyttäytymistä varten; sekä orkestrointi suunnittele–toimi–tarkista-syklin avulla autonomian saavuttamiseksi. MCP-protokolla standardoi työkalujen rajapinnat, ja kirjoittaja huomauttaa, että vaikka malleista on tulossa yhä kykenevämpiä, ne ovat ytimeltään yksinkertaisia. Artikkeli päättyy luettelemaan viitekehyksiä ja työkaluja, kuten LangChain, CrewAI, Dify, LlamaIndex ja muita, jotka rakentuvat näiden periaatteiden varaan.
Lähde: Habr — хаб ML —
Alkuperäinen
