Le nouveau niveau AI Gateway de Microsoft suscite un débat : des préoccupations de permission derrière la gouvernance unifiée

Microsoft a publié un aperçu public d'un niveau dédié à la passerelle IA pour Azure API Management. Cette passerelle organise son plan de contrôle autour des modèles, des serveurs MCP et des outils plutôt que des API, et est conçue comme une expérience autonome, bien que les niveaux classiques et v2 conservent leurs fonctionnalités existantes de passerelle IA. L'aperçu peut publier des modèles hébergés sur Foundry, y compris ceux d'OpenAI, d'Anthropic et de Mistral, ainsi que des modèles d'AWS Bedrock, de Google Vertex AI et d'OpenAI directement. Tous les fournisseurs compatibles OpenAI partagent un même point de terminaison, avec un routage basé sur la correspondance exacte du champ du modèle, ce qui nécessite un nom unique pour chaque modèle publié ; Anthropic est géré via un fournisseur personnalisé qui passe par l'API Messages. Les politiques sont configurées via des fiches dans le portail plutôt que via du XML et des expressions, couvrant les limites de jetons et de requêtes, les quotas, la sécurité du contenu et le basculement de modèles. La télémétrie est exportée sous forme de métriques de jetons OpenTelemetry vers Application Insights, Datadog, Grafana et d'autres destinations contrôlées par le client, et la ressource s'exécute dans l'abonnement et le locataire Entra du client. Pour les outils, la passerelle fédère des backends provenant de trois sources : des serveurs MCP distants connectés via URL, des spécifications OpenAPI ou des connecteurs intégrés couvrant plus d'un millier d'applications SaaS sans nécessiter de serveur hébergé. Les opérations de chaque backend deviennent des outils, et les équipes peuvent choisir l'authentification par backend : aucune, clé API, OAuth 2.0 ou identité managée. Le modèle opérationnel prévu sépare le contrôle central de l'auto-service des équipes : les équipes de plateforme connectent et publient des modèles et outils approuvés, tandis que les équipes applicatives utilisent ces ressources dans une console de test sans faire passer chaque modification par l'équipe centrale, bien que les équipes de plateforme continuent de gérer les garde-fous et l'utilisation globale. Les architectes et ingénieurs de plateforme ont généralement réagi positivement, mais ont soulevé des questions sur les limites de la gouvernance. Paolo Perrone, auteur de la newsletter AI Engineer, a noté que la gouvernance des coûts placée dans la passerelle est sous-estimée, la qualifiant de « plan de contrôle plutôt que de rustine par application ». Adolph White Jr., architecte IA d'entreprise, a soulevé la question ouverte la plus aiguë : que se passe-t-il lorsqu'une exécution d'agent ne se termine pas correctement, demandant si les sorties sont conservées pour audit ou si un basculement et une nouvelle tentative se produisent, distinguant la gouvernance du trafic IA de celle du cycle de vie complet. L'annonce ne précise pas si le contrôle des sorties d'agent appartient à la passerelle ou à la couche d'orchestration supérieure. Tous les retours n'étaient pas positifs ; Sreenivasulu Kandakuru de Aer Lingus a déclaré que ce niveau est nécessaire de toute urgence, mais estime qu'Azure est en retard sur AWS et Databricks, citant Unity AI Gateway du sommet Data + AI de juin, qui étend Unity Catalog pour gouverner les modèles, agents, services MCP et compétences avec des plafonds de dépenses stricts, un routage intelligent et des garde-fous de contenu, et achemine les agents de codage externes comme Claude Code et Codex. Microsoft dispose de fonctionnalités de passerelle IA depuis environ deux ans, donc l'écart réel n'est pas aussi grand que la comparaison le suggère. Une décision de conception mérite d'être examinée : les clés d'accès au runtime sont limitées à l'ensemble de la passerelle, donnant accès à tous les modèles et outils ; Microsoft recommande une clé par application, mais une fuite de clé affecte toute la passerelle. Les équipes qui s'appuient sur les abonnements APIM pour limiter les utilisateurs à un ensemble d'API ne trouveront pas cette limite ici. L'aperçu est au mieux sans SLA, et les API, la télémétrie, les limites, les régions et les prix peuvent changer avant la disponibilité générale. Les quotas de l'aperçu limitent les modèles, les outils, les clés runtime et le débit, mais les détails ne sont pas encore publiés ; les prix viendront plus tard, ce qui rend la gouvernance des coûts la partie la plus incertaine. Une question clé sans réponse est la coexistence, et la confusion est déjà évidente : l'ingénieur IA Rajib Mahapatro a répondu qu'ils l'utilisent en production depuis quatre mois, mentionnant la mise en cache, la sécurité du contenu, la journalisation et les limites de jetons, qui sont des fonctionnalités existantes. La documentation Microsoft décrit la passerelle IA comme une extension de la passerelle API Management existante, pas un produit autonome, et aucune directive publique n'aborde la question de savoir si les investissements existants Premium ou Standard v2 seront hérités, exécutés en parallèle ou migrés. Le niveau Passerelle IA est disponible dans Est des États-Unis 2 et Suède centrale, gratuit pendant l'aperçu, avec des tutoriels expérimentaux pour publier des modèles Foundry gouvernés et observer les limites de débit de jetons.