El nuevo nivel de AI Gateway de Microsoft genera debate: preocupaciones sobre permisos tras la gobernanza unificada

Microsoft ha lanzado una vista previa pública de un nivel dedicado de AI Gateway para Azure API Management. Este recurso de puerta de enlace organiza su plano de control en torno a modelos, servidores MCP y herramientas, en lugar de API, y está construido como una experiencia independiente, aunque los niveles clásico y v2 conservan sus funciones existentes de AI gateway. La vista previa puede publicar modelos alojados en Foundry, incluidos OpenAI, Anthropic y Mistral, así como modelos de AWS Bedrock, Google Vertex AI y OpenAI directamente. Todos los proveedores compatibles con OpenAI comparten una única ruta de endpoint, con enrutamiento basado en la coincidencia exacta del campo de modelo, por lo que cada modelo publicado necesita un nombre único; Anthropic se gestiona mediante un proveedor personalizado que pasa a través de la API de Mensajes. Las políticas se configuran mediante tarjetas en el portal en lugar de XML y expresiones, y cubren límites de tokens y solicitudes, cuotas, seguridad de contenido y conmutación por error de modelos. La telemetría se exporta como métricas de tokens de OpenTelemetry a Application Insights, Datadog, Grafana y otros destinos controlados por el cliente, y el recurso se ejecuta en la suscripción y el inquilino de Entra del propio cliente. Para las herramientas, la puerta de enlace federada backends de tres fuentes: servidores MCP remotos conectados mediante URL, especificaciones OpenAPI o conectores integrados que cubren más de mil aplicaciones SaaS sin necesidad de un servidor alojado. Las operaciones de cada backend se convierten en herramientas, y los equipos pueden elegir la autenticación por backend: ninguna, clave de API, OAuth 2.0 o identidad administrada. El modelo operativo previsto separa el control central del autoservicio del equipo: los equipos de plataforma conectan y publican modelos y herramientas aprobados, mientras que los equipos de aplicación utilizan estos activos en una consola de prueba sin enrutar cada cambio a través del equipo central, aunque los equipos de plataforma continúan gestionando las salvaguardas y el uso general. Los arquitectos e ingenieros de plataforma han respondido generalmente de manera positiva, pero han planteado preguntas sobre dónde se encuentran los límites de gobernanza. El autor del boletín AI Engineer, Paolo Perrone, señaló que la gobernanza de costos ubicada en la puerta de enlace está subestimada, calificándola de 'plano de control en lugar de parcheo por aplicación'. El arquitecto de IA empresarial Adolph White Jr. planteó la pregunta abierta más aguda sobre qué sucede cuando una ejecución de agente no termina correctamente, preguntando si los resultados se conservan para auditoría o si se produce conmutación por error y reintento, distinguiendo la gobernanza del tráfico de IA de la gobernanza del ciclo de vida completo. El anuncio no especifica si el control sobre los resultados del agente pertenece a la puerta de enlace o a la capa de orquestación superior. No todos los comentarios fueron positivos; Sreenivasulu Kandakuru de Aer Lingus dijo que el nivel es urgentemente necesario pero cree que Azure va por detrás de AWS y Databricks, citando Unity AI Gateway del Data + AI Summit de junio, que extiende Unity Catalog para gobernar modelos, agentes, servicios MCP y habilidades con límites de gasto estrictos, enrutamiento inteligente y salvaguardas de contenido, y enruta agentes de codificación externos como Claude Code y Codex. Microsoft ha tenido funciones de AI gateway durante aproximadamente dos años, por lo que la brecha real no es tan grande como sugiere la comparación. Una decisión de diseño que vale la pena examinar: las claves de acceso en tiempo de ejecución tienen un alcance limitado a toda la puerta de enlace, lo que da acceso a todos los modelos y herramientas en ella; Microsoft recomienda una clave por aplicación, pero la fuga de claves afecta a toda la puerta de enlace. Los equipos que dependen de las suscripciones de APIM para limitar a los usuarios a un conjunto de API no encontrarán ese límite aquí. La vista previa es de mejor esfuerzo sin SLA, y las API, la telemetría, los límites, las regiones y los precios pueden cambiar antes de la disponibilidad general. Las cuotas de vista previa limitan los modelos, las herramientas, las claves de tiempo de ejecución y el rendimiento, pero los detalles aún no se han publicado; los precios llegarán más tarde, lo que convierte a la gobernanza de costos en la parte más incierta. Una pregunta clave sin respuesta es la coexistencia, y ya es evidente la confusión: el ingeniero de IA Rajib Mahapatro respondió que lo han utilizado en producción durante cuatro meses, mencionando caché, seguridad de contenido, registro y límites de tokens, que son funciones existentes. La documentación de Microsoft describe la AI Gateway como una extensión de la puerta de enlace existente de API Management, no como un producto independiente, y no hay orientación pública que aborde si las inversiones existentes de Premium o Standard v2 se heredarán, se ejecutarán en paralelo o se migrarán. El nivel AI Gateway está disponible en Este de EE. UU. 2 y Suecia Central, gratis durante la vista previa, con tutoriales experimentales para publicar modelos gobernados de Foundry y observar los límites de tasa de tokens.