Эталонная архитектура для корпоративного ИИ на Kubernetes: четыре уровня безопасного развертывания агентов в производстве
Anthropic
LiteLLM
Статья предлагает эталонную архитектуру для самостоятельно размещаемой корпоративной платформы ИИ на Kubernetes, состоящую из четырех функциональных уровней: Ввод, Цикл агента, Исполнение, а также Идентификация, Политики и Аудит. Цель — решить сложность развертывания ИИ-агентов в производстве, определив четкие границы между уровнями, что позволяет модульно заменять компоненты. Архитектура опирается на модель Anthropic, проекты CNCF и экосистему MCP, уделяя внимание безопасности, мультитенантности и нативной для Kubernetes установке.
Статья представляет эталонную архитектуру для развертывания корпоративного ИИ-конструктора (Enterprise AI Harness) на Kubernetes, состоящую из четырех уровней: Вход (Input), Цикл агента (Agent Loop), Исполнение (Execution), а также Идентификация, Политики и Аудит (Identity, Policy & Audit). Уровень входа разделяет трафик пользователя, агента и событий с помощью таких инструментов, как Traefik и
Показать ещё ↓
Источник: Habr — хаб NLP —
оригинал