Referenssiarkkitehtuuri yrityksen tekoälyvaljaalle Kubernetesissa: neljä kerrosta turvalliseen agenttien tuotantokäyttöön

Artikkelissa esitellään referenssiarkkitehtuuri itse isännöidyn Enterprise AI -ohjausjärjestelmän (Harness) rakentamiseksi Kubernetesiin. Arkkitehtuuri koostuu neljästä kerroksesta: Syöte (Input), Agenttisilmukka (Agent Loop), Suoritus (Execution) sekä Identiteetti, käytännöt ja auditointi (Identity, Policy & Audit). Syötekerros erottelee käyttäjä-, agentti- ja tapahtumaliikenteen käyttäen työkaluja kuten Traefik ja n8n webhookit. Agenttisilmukan (ReAct) kerros hallinnoi tilallisia agenttiistuntoja muistilla, delegoinnilla ja ihmisen valvonnalla (HITL, human-in-the-loop) hyödyntäen komponentteja kuten kagent ja LangGraph. Suorituskerros valvoo pääsyä ulkoisiin resursseihin (MCP-työkalut, työnkulut, LLM-mallit) FastMCP:n, n8n:n ja LiteLLM:n kautta. Identiteetti-, käytäntö- ja auditointikerros tarjoaa läpileikkaavan autentikoinnin, autorisoinnin ja auditoinnin Keycloakin, agentgatewayn, Vaultin/OpenBaon sekä OTEL/Grafanan avulla. Arkkitehtuuri painottaa tietoturvarajoja, moniasiakkuutta (moni-asukkuus) (RLS:n, nimiavaruuksien ja verkkokäytäntöjen avulla) sekä käyttöönoton kontekstia (Kubernetes, Helm, NetworkPolicy). Taidot toteutetaan pod-lokalisoituina kapasiteettilisäyksinä (OCI-kuvat SKILL.md-tiedostolla), kun taas työkalut ovat verkossa saavutettavissa. Artikkeli havainnollistaa työnkulkua insinöörityötehtävän esimerkillä, jossa identiteetti virtaa syötteestä agentgatewayn kautta suoritukseen ja auditointijälki syntyy koko matkalta. Kirjoittaja huomauttaa, että kyseessä on toimiva referenssimalli, ei tuote, ja kutsuu keskustelemaan olennaisista kerroksista.