Microsofts AI-Gateway-Tarif sorgt für Diskussionen: Bedenken zur Genehmigung hinter einheitlicher Governance

Microsoft hat eine öffentliche Vorschau einer dedizierten AI-Gateway-Stufe für Azure API Management veröffentlicht. Diese Gateway-Ressource organisiert ihre Steuerungsebene um Modelle, MCP-Server und Tools statt um APIs und ist als eigenständige Erfahrung konzipiert, obwohl die klassischen und v2-Stufen ihre vorhandenen AI-Gateway-Funktionen behalten. Die Vorschau kann Modelle veröffentlichen, die auf Foundry gehostet werden, einschließlich OpenAI, Anthropic und Mistral, sowie Modelle von AWS Bedrock, Google Vertex AI und direkt von OpenAI. Alle OpenAI-kompatiblen Anbieter teilen sich einen Endpunktpfad, wobei das Routing auf exaktem Modellfeldabgleich basiert, sodass jedes veröffentlichte Modell einen eindeutigen Namen benötigt; Anthropic wird über einen benutzerdefinierten Anbieter verarbeitet, der die Messages-API durchreicht. Richtlinien werden über Karten im Portal statt über XML und Ausdrücke konfiguriert und decken Token- und Anforderungslimits, Kontingente, Inhaltsicherheit und Modell-Failover ab. Telemetrie wird als OpenTelemetry-Tokenmetriken an Application Insights, Datadog, Grafana und andere kundengesteuerte Ziele exportiert, und die Ressource läuft im eigenen Abonnement und Entra-Mandanten des Kunden. Für Tools vereinheitlicht das Gateway Backends aus drei Quellen: entfernte MCP-Server, die über URL verbunden sind, OpenAPI-Spezifikationen oder integrierte Konnektoren, die über tausend SaaS-Anwendungen abdecken, ohne dass ein gehosteter Server erforderlich ist. Die Operationen jedes Backends werden zu Tools, und Teams können die Authentifizierung pro Backend wählen: keine, API-Schlüssel, OAuth 2.0 oder verwaltete Identität. Das beabsichtigte Betriebsmodell trennt zentrale Steuerung von Team-Self-Service: Plattformteams verbinden und veröffentlichen genehmigte Modelle und Tools, während Anwendungsteams diese Assets in einer Testkonsole nutzen, ohne jede Änderung über das zentrale Team zu leiten, obwohl Plattformteams weiterhin für Schutzmaßnahmen und Gesamtnutzung verantwortlich sind. Architekten und Plattformingenieure haben im Allgemeinen positiv reagiert, aber Fragen aufgeworfen, wo die Grenzen der Governance liegen. Paolo Perrone, Autor des AI-Engineer-Newsletters, stellte fest, dass die Kostengovernance im Gateway unterschätzt wird, und nannte es eine "Steuerungsebene statt App-für-App-Patches". Der Enterprise-AI-Architekt Adolph White Jr. warf die schärfste offene Frage auf, was passiert, wenn eine Agentenausführung nicht ordnungsgemäß endet, und fragte, ob Ausgaben für Audits aufbewahrt werden oder ob Failover und erneute Versuche auftreten, wobei er Governance des KI-Datenverkehrs von Governance des gesamten Lebenszyklus unterschied. Die Ankündigung legt nicht fest, ob die Kontrolle über Agentenausgaben zum Gateway oder zur darüberliegenden Orchestrierungsschicht gehört. Nicht alles Feedback war positiv; Sreenivasulu Kandakuru von Aer Lingus sagte, dass die Stufe dringend benötigt wird, glaubt jedoch, dass Azure hinter AWS und Databricks zurückliegt, und verwies auf Unity AI Gateway vom Data + AI Summit im Juni, das Unity Catalog erweitert, um Modelle, Agenten, MCP-Dienste und Fähigkeiten mit harten Ausgabenobergrenzen, intelligentem Routing und Inhaltsicherheitsmaßnahmen zu steuern und externe Codierungsagenten wie Claude Code und Codex weiterzuleiten. Microsoft hat seit etwa zwei Jahren KI-Gateway-Funktionen, sodass die tatsächliche Lücke nicht so groß ist, wie der Vergleich vermuten lässt. Eine Designentscheidung, die es zu prüfen gilt: Laufzeit-Zugriffsschlüssel sind auf das gesamte Gateway beschränkt, was Zugriff auf jedes Modell und Tool darauf gewährt; Microsoft empfiehlt einen Schlüssel pro App, aber Schlüssellecks betreffen das gesamte Gateway. Teams, die sich auf APIM-Abonnements verlassen, um Benutzer auf eine Reihe von APIs zu beschränken, werden diese Grenze hier nicht finden. Die Vorschau ist mit besten Bemühungen ohne SLA, und APIs, Telemetrie, Limits, Regionen und Preise können sich vor der allgemeinen Verfügbarkeit ändern. Vorschaukontingente begrenzen Modelle, Tools, Laufzeitschlüssel und Durchsatz, aber Details sind noch nicht veröffentlicht; Preise werden später kommen, was die Kostengovernance zum unsichersten Teil macht. Eine wichtige unbeantwortete Frage ist die Koexistenz, und Verwirrung ist bereits offensichtlich: Der KI-Ingenieur Rajib Mahapatro antwortete, dass sie es seit vier Monaten in Produktion verwendet haben, und erwähnte Caching, Inhaltsicherheit, Protokollierung und Token-Limits, die vorhandene Funktionen sind. Die Microsoft-Dokumentation beschreibt das KI-Gateway als Erweiterung des bestehenden API-Management-Gateways, nicht als eigenständiges Produkt, und es gibt keine öffentlichen Hinweise, ob vorhandene Premium- oder Standard-v2-Investitionen übernommen, parallel betrieben oder migriert werden. Die AI-Gateway-Stufe ist in Ost-USA 2 und Schweden-Zentral verfügbar, während der Vorschau kostenlos, mit experimentellen Tutorials zur Veröffentlichung governierter Foundry-Modelle und zur Beobachtung von Token-Ratenlimits.