框架开源 🇷🇺 27.07.2026 03:04

面向企业AI harness在Kubernetes上的参考架构:四个层级实现安全代理部署

AnthropicAnthropic LiteLLMLiteLLM
提出了一个基于Anthropic模型和开源组件的自托管企业AI harness在Kubernetes上的参考架构。该架构包括四个功能层(输入层、代理循环层、执行层、身份策略与审计层),能够在企业环境中安全地部署和运营数百个代理。
文章作者分析了AI代理在生产环境中部署的问题,并提出了一种适用于自托管企业AI Harness的参考架构,该架构运行在Kubernetes上。其基础是Anthropic模型,其中harness是代理的运行环境,包含代理、环境、会话和事件。针对企业环境,作者对该模型进行了调整,将其分为四个层级:输入层——通过SSO、JWT和webhook将用户流量、代理流量和事件流量分开;代理循环层(ReAct)——包含记忆、任务委派和人类参与(HITL)的代理循环层;执行层——对外部资源(如MCP服务器、工作流、LLM提供商)进行可控访问,并实施访问控制;身份、策略与审计层——基于Keycloak、agentgateway、Vault和OpenTelemetry(OTEL)的跨层身份、权限和审计层。此外,还引入了多租户和原生Kubernetes部署等跨层条件。技能通过OCI镜像以Pod本地能力注入的方式实现,而工具则存在于运行时网络MCP中。通过一个“为API添加校验”的工程任务示例,展示了各层之间的交互:从通过Telegram或Web UI进入,经Keycloak和agentgateway进行身份验证和授权,由kagent处理任务上下文和子代理,最终在隔离环境中执行,使用Vault生成的短期密钥,并通过OTEL实现完整审计。该架构由以下开源组件构成:Traefik、oauth2-proxy、n8n、kagent、LangGraph、FastMCP、LiteLLM、Keycloak、agentgateway、Vault或OpenBao、External Secrets Operator、OTEL和Grafana。
来源: Habr — хаб NLP — 原文
我们之前关于此话题的帖子 ↓
最新新闻