Die eigentliche Herausforderung der Enterprise-KI liegt nicht mehr im Modell, sondern im Betrieb

Die große Veränderung im Enterprise-KI-Bereich im Juni 2026 ist nicht die Ankunft eines weiteren LLM, sondern die Entstehung von MLOps als Disziplin für den Betrieb von Agenten, mit vier zentralen Herausforderungen: Geschäftskontext, Governance, Beobachtbarkeit und Inferenzstückkosten. Google Cloud hat die Gemini Enterprise Agent Platform eingeführt, um Agenten zu erstellen, zu skalieren, zu verwalten und zu optimieren, während Microsoft auf der Build 2026 betonte, dass der Engpass nicht die Modellleistung ist, sondern die Bereitstellung eines kohärenten Datenkontexts für Agenten. AWS's Bedrock AgentCore konzentriert sich auf den operativen Betrieb, nutzt Produktions-Traces zur Verbesserung von Systemen und hebt das Risiko von stillen Fehlern hervor. Databricks argumentiert, dass die agentische Schleife nur die sichtbaren 1% ausmacht, während die restlichen 99% Bereitstellung, Sicherheit, Evaluierung und Kontext umfassen. Der MLOps-Stack entwickelt sich weiter und umfasst nun Agenten-Laufzeit, Speicher, Identität, Gateways und Tracing. Googles Agent Identity verwendet den SPIFFE-Standard für kryptografische Attestierung, und AWS's AgentCore Gateway integriert bestehende APIs mit dem Model Context Protocol. Die Beobachtbarkeit umfasst nun auch qualitative Bewertungen, wie in MLflow 3 und AWS's AgentCore Observability zu sehen ist. Die Infrastruktur wird zunehmend plattformorientierter, wobei das CNCF Inference Gateway die allgemeine Verfügbarkeit erreicht hat. FinOps verändert sich: Der State of the Cloud 2026 von Flexera berichtet, dass 58% der Organisationen öffentliche Cloud-GenAI-Dienste nutzen, 73% hybrid betreiben und 49% Unit Economics verwenden. Agentische Systeme verursachen Kosten über die Modell-API hinaus, einschließlich Gateway-Aufrufen, Speicher und Beobachtbarkeit. In Europa wurde am 3. Juni der Cloud- und KI-Entwicklungsgesetz vorgeschlagen, und der AI Act wird ab dem 2. August 2026 in vollem Umfang anwendbar. Europäische Unternehmen diversifizieren ihre Lieferanten, um Abhängigkeiten zu reduzieren und Souveränitätsbedenken zu adressieren.