LiteLLM

Referenzarchitektur für Enterprise AI Harness auf Kubernetes: Vier Schichten für sicheren Agenteneinsatz in der Produktion

Es wird eine Referenzarchitektur für ein selbst gehostetes Enterprise AI Harness auf Kubernetes vorgeschlagen, basierend auf dem Modell von Anthropic und Open-Source-Komponenten. Die Architektur umfasst vier funktionale Schichten (Eingabe, Agentenschleife, Ausführung, Identität, Richtlinien und Prüfung), die den sicheren Betrieb von Hunderten von Agenten in einer Unternehmensumgebung ermöglichen.

Anthropic LiteLLM