LiteLLM

Architecture de référence pour un harnais d'IA d'entreprise sur Kubernetes : quatre couches pour un déploiement sécurisé d'agents en production

Une architecture de référence pour un harnais d'IA d'entreprise auto-hébergé sur Kubernetes est proposée, basée sur le modèle d'Anthropic et des composants open-source. L'architecture comprend quatre couches fonctionnelles (Entrée, Boucle d'agent, Exécution, Identité, Politique et Audit) qui permettent le déploiement et le fonctionnement sécurisés de centaines d'agents dans un environnement d'entreprise.

Anthropic LiteLLM