LiteLLM

Референсная архитектура Enterprise AI Harness на Kubernetes: четыре слоя для безопасного запуска агентов в production

Предложена референсная архитектура для self-hosted Enterprise AI Harness на Kubernetes, основанная на модели Anthropic и open source-компонентах. Архитектура включает четыре функциональных слоя (Input, Agent Loop, Execution, Identity, Policy & Audit), которые позволяют безопасно разворачивать и эксплуатировать сотни агентов в корпоративной среде.

Anthropic LiteLLM