LiteLLM

面向企业AI harness在Kubernetes上的参考架构：四个层级实现安全代理部署

提出了一个基于Anthropic模型和开源组件的自托管企业AI harness在Kubernetes上的参考架构。该架构包括四个功能层（输入层、代理循环层、执行层、身份策略与审计层），能够在企业环境中安全地部署和运营数百个代理。

Anthropic LiteLLM