Execai: yhdeksän LLM-toimittajan yhdistäminen yhteen terminaaliagenttiin
Moonshot AI
Anthropic
OpenAI
Execai on Go-kielellä toteutettu terminaalin tekoälyagentti, joka tukee yhdeksää LLM-toimittajaa yhden käyttöliittymän kautta, mukaan lukien Kimi K3, GLM-5.2, Claude ja Ollama. Arkkitehtuuri perustuu kahteen yhteensopivaan API-dialektiin (Anthropic ja OpenAI) SSE-jäsentimillä työkalujen kutsujen keräämiseen ja dynaamisiin mallihakemistoihin. Käyttäjät voivat vaihtaa lähteiden välillä samassa chatissa säilyttäen yhteisen keskusteluhistorian.
Kehittäjä on julkaissut execai:n – terminaali-AI-agentin, joka on toteutettu Go-ohjelmointikielellä (bubbletea-kirjastoa käyttäen) ja jonka avulla voi käyttää yhdeksää eri LLM-palveluntarjoajaa yhteisen käyttöliittymän kautta. Tuettuja lähteitä ovat muun muassa execain oma yhdyskäytävä, Z.ai Coding Plan GLM-5.2-mallilla, Kimi Code -tilaus (Kimi K3), Moonshot Platform, Anthropic API, OpenAI API, Ollama (pilvi- ja paikalliskäyttö) sekä delegoinnit Claude Code CLI:hen ja Codex CLI:hen. Arkkitehtuuri koostuu neljästä StreamingLLM-rajapinnan toteutuksesta, jotka kattavat kaksi HTTP API -dialektia: OpenAI-yhteensopivan ja Anthropic-yhteensopivan. Erityistä huomiota on kiinnitetty työkalujen kutsujen keräämiseen SSE-palikoista indeksien perusteella, dynaamisiin malliluetteloihin GET /v1/models -pyyntöjen kautta sekä tilauksen tariffin automaattiseen tunnistamiseen Kimi Code -päätepisteiden avulla. Lisäksi on toteutettu pyyntöjen delegointi muiden agenttien paikallisiin komentorivityökaluihin (Claude Code, Codex), jotka käyttävät omaa OAuth-istuntoaan. Kehittäjät jakoivat kokemuksiaan ongelmista, kuten avainten yhteensopimattomuudesta tilauksen ja käyttömaksuperusteisen laskutuksen välillä Kimillä ja Z.ai:llä sekä mallin hakemisesta ID:n perusteella väärästä luettelosta. Lähdekoodi on saatavilla GitHubissa Business Source License -lisenssillä.
Lähde: Habr — хаб ИИ —
Alkuperäinen