Microsoft'un Yapay Zeka Ağ Geçidi Katmanı Tartışma Yaratıyor: Birleşik Yönetimin Arkasındaki İzin Endişeleri

Microsoft, Azure API Management için özel bir AI Gateway katmanının genel önizlemesini yayınladı. Bu ağ geçidi kaynağı, kontrol düzlemini API'ler yerine modeller, MCP sunucuları ve araçlar etrafında düzenliyor ve bağımsız bir deneyim olarak oluşturulmuş olsa da, klasik ve v2 katmanları mevcut AI ağ geçidi özelliklerini koruyor. Önizleme, Foundry'de barındırılan OpenAI, Anthropic ve Mistral dahil modellerin yanı sıra AWS Bedrock, Google Vertex AI ve doğrudan OpenAI modellerini yayınlayabiliyor. Tüm OpenAI uyumlu sağlayıcılar tek bir uç nokta yolunu paylaşıyor ve yönlendirme, tam model alanı eşleştirmesine dayalı olduğundan, yayınlanan her modelin benzersiz bir ada sahip olması gerekiyor; Anthropic, Messages API'yi geçiren özel bir sağlayıcı aracılığıyla ele alınıyor. İlkeler, portalde XML ve ifadeler yerine kartlar aracılığıyla yapılandırılıyor ve belirteç ve istek limitlerini, kotaları, içerik güvenliğini ve model yük devretmesini kapsıyor. Telemetri, OpenTelemetry belirteç ölçümleri olarak Application Insights, Datadog, Grafana ve müşteri tarafından kontrol edilen diğer hedeflere aktarılıyor ve kaynak, müşterinin kendi aboneliğinde ve Entra kiracısında çalışıyor. Araçlar için ağ geçidi, üç kaynaktan gelen arka uçları birleştiriyor: URL ile bağlanan uzak MCP sunucuları, OpenAPI belirtimleri veya binlerce SaaS uygulamasını kapsayan ve barındırılan bir sunucu gerektirmeyen yerleşik bağlayıcılar. Her arka ucun işlemleri araç haline geliyor ve ekipler arka uç başına kimlik doğrulama seçeneklerinden birini seçebiliyor: yok, API anahtarı, OAuth 2.0 veya yönetilen kimlik. Amaçlanan işletim modeli, merkezi kontrolü ekip self-servisinden ayırıyor: platform ekipleri onaylanmış modelleri ve araçları bağlayıp yayınlarken, uygulama ekipleri bu varlıkları bir test konsolunda kullanıyor ve her değişikliği merkezi ekip üzerinden yönlendirmiyor; ancak platform ekipleri güvenlik önlemlerini ve genel kullanımı yönetmeye devam ediyor. Mimarlar ve platform mühendisleri genel olarak olumlu yanıt verdi, ancak yönetişim sınırlarının nerede olduğu konusunda sorular gündeme getirdi. AI Engineer bülteni yazarı Paolo Perrone, ağ geçidine yerleştirilen maliyet yönetişiminin yeterince takdir edilmediğini ve bunu 'uygulama başına yama yapmak yerine kontrol düzlemi' olarak nitelendirdi. Kurumsal AI mimarı Adolph White Jr., bir ajan çalışması düzgün bir şekilde sonlandırılmadığında ne olacağı konusunda en keskin açık soruyu gündeme getirdi ve çıktıların denetim için saklanıp saklanmadığını veya yük devretme ve yeniden denemenin gerçekleşip gerçekleşmediğini sorarak, AI trafiğinin yönetişimini tam yaşam döngüsünün yönetişiminden ayırdı. Duyuru, ajan çıktıları üzerindeki kontrolün ağ geçidine mi yoksa üstteki orkestrasyon katmanına mı ait olduğunu belirtmiyor. Tüm geri bildirimler olumlu değildi; Aer Lingus'tan Sreenivasulu Kandakuru, bu katmanın acilen gerekli olduğunu ancak Azure'un AWS ve Databricks'in gerisinde kaldığına inandığını söyledi ve Haziran Data + AI Zirvesi'nden Unity AI Gateway'i örnek gösterdi. Unity AI Gateway, Unity Catalog'u modelleri, ajanları, MCP hizmetlerini ve becerileri sıkı harcama limitleri, akıllı yönlendirme ve içerik güvenlik önlemleriyle yönetecek şekilde genişletiyor ve Claude Code ve Codex gibi harici kodlama ajanlarını yönlendiriyor. Microsoft'un yaklaşık iki yıldır AI ağ geçidi özellikleri var, bu nedenle gerçek fark, karşılaştırmanın önerdiği kadar büyük değil. İncelenmeye değer bir tasarım kararı: çalışma zamanı erişim anahtarları tüm ağ geçidine kapsamlandırılmış, bu da üzerindeki her modele ve araca erişim sağlıyor; Microsoft, uygulama başına bir anahtar öneriyor, ancak anahtar sızıntısı tüm ağ geçidini etkiler. APIM aboneliklerine güvenerek kullanıcıları bir dizi API ile sınırlayan ekipler burada bu sınırı bulamayacak. Önizleme en iyi çaba düzeyindedir ve SLA içermez; API'ler, telemetri, limitler, bölgeler ve fiyatlandırma genel kullanılabilirlikten önce değişebilir. Önizleme kotaları modelleri, araçları, çalışma zamanı anahtarlarını ve iş hacmini sınırlar, ancak ayrıntılar henüz yayınlanmadı; fiyatlandırma daha sonra gelecek ve bu da maliyet yönetişimini en belirsiz kısım haline getiriyor. Yanıtlanmamış önemli bir soru birlikte var olma ile ilgili ve kafa karışıklığı şimdiden ortada: AI mühendisi Rajib Mahapatro, dört aydır üretimde kullandıklarını ve önbelleğe alma, içerik güvenliği, günlükleme ve belirteç limitlerinden bahsederek yanıt verdi; bunlar mevcut özelliklerdir. Microsoft belgeleri AI ağ geçidini mevcut API Management ağ geçidinin bir uzantısı olarak tanımlıyor, bağımsız bir ürün olarak değil ve mevcut Premium veya Standard v2 yatırımlarının devralınıp devralınmayacağı, paralel mi çalışacağı yoksa taşınıp taşınmayacağı konusunda hiçbir kamuya açık kılavuz bulunmuyor. AI Gateway katmanı Doğu ABD 2 ve İsveç Orta bölgelerinde kullanılabilir, önizleme sırasında ücretsizdir ve yönetilen Foundry modelleri yayınlama ve belirteç hız sınırlarını gözlemleme için deneysel eğitimler içerir.