Microsoftin tekoäly-yhdyskäytävätaso herättää keskustelua: lupahuoli yhtenäisen hallinnon takana

Microsoft on julkaissut julkisen esiversion erillisestä AI Gateway -tasosta Azure API Managementille. Tämä yhdyskäytäväresurssi järjestää hallintatasonsa mallien, MCP-palvelinten ja työkalujen ympärille API:en sijasta, ja se on rakennettu itsenäiseksi kokemukseksi, vaikka klassinen ja v2-taso säilyttävätkin nykyiset AI-ominaisuutensa. Esiversio voi julkaista Foundryssa isännöityjä malleja, mukaan lukien OpenAI, Anthropic ja Mistral, sekä malleja suoraan AWS Bedrockista, Google Vertex AI:sta ja OpenAI:sta. Kaikki OpenAI-yhteensopivat palveluntarjoajat jakavat yhden päätepisteen, ja reititys perustuu tarkkaan mallikentän vastaavuuteen, joten jokaisella julkaistulla mallilla on oltava yksilöllinen nimi. Anthropicia käsitellään mukautetun palveluntarjoajan kautta, joka välittää Messages API:n. Käytännöt määritetään portaalin korttien avulla XML:n ja lausekkeiden sijaan, ja ne kattavat token- ja pyyntörajoitukset, kiintiöt, sisällön turvallisuuden ja mallien vikasietoisuuden. Telemetria viedään OpenTelemetry-tokenimittareina Application Insightsiin, Datadogiin, Grafanaan ja muihin asiakkaan hallitsemiin kohteisiin, ja resurssi toimii asiakkaan omassa tilauksessa ja Entra-vuokraajassa. Työkalujen osalta yhdyskäytävä yhdistää taustajärjestelmiä kolmesta lähteestä: etä-MCP-palvelimet, jotka yhdistetään URL-osoitteen kautta, OpenAPI-määrittelyt tai sisäänrakennetut liittimet, jotka kattavat yli tuhat SaaS-sovellusta ilman isännöityä palvelinta. Kunkin taustajärjestelmän toiminnoista tulee työkaluja, ja tiimit voivat valita taustajärjestelmäkohtaisen todennuksen: ei mitään, API-avain, OAuth 2.0 tai hallittu identiteetti. Käyttötarkoitus erottaa keskitetyn hallinnan tiimien itsepalvelusta: alustatiimit yhdistävät ja julkaisevat hyväksyttyjä malleja ja työkaluja, kun taas sovellustiimit käyttävät näitä resursseja testikonsolissa ilman, että jokaista muutosta ohjataan keskitetyn tiimin kautta, vaikka alustatiimit hoitavatkin edelleen suojakaiteet ja kokonaiskäytön. Arkkitehdit ja alustainsinöörit ovat yleisesti suhtautuneet myönteisesti, mutta ovat herättäneet kysymyksiä siitä, missä hallinnon rajat kulkevat. AI Engineer -uutiskirjeen kirjoittaja Paolo Perrone huomautti, että yhdyskäytävään sijoitettua kustannushallintaa aliarvioidaan, ja kutsui sitä 'hallintatasoksi sovelluskohtaisten korjausten sijaan'. Yritys-AI-arkkitehti Adolph White Jr. esitti terävimmän avoimen kysymyksen siitä, mitä tapahtuu, kun agentin suoritus ei pääty kunnolla, ja kysyi, säilytetäänkö tulosteet auditointia varten tai tapahtuuko vikasietoisuus ja uudelleenyritys, mikä erottaa AI-liikenteen hallinnan koko elinkaaren hallinnasta. Ilmoitus ei täsmennä, kuuluuko agentin tulosteiden hallinta yhdyskäytävälle vai ylemmälle orkestrointikerrokselle. Kaikki palaute ei ollut myönteistä; Aer Lingusin Sreenivasulu Kandakuru sanoi, että taso on kiireellisesti tarpeen, mutta uskoo Microsoftin olevan jäljessä AWS:stä ja Databricksistä, ja viittaa Unity AI Gateway'hun kesäkuun Data + AI -huippukokouksesta, joka laajentaa Unity Catalogin hallitsemaan malleja, agentteja, MCP-palveluita ja taitoja kovilla kulukatoksilla, älykkäällä reitityksellä ja sisällön suojakaiteilla, ja reitittää ulkoisia koodausagentteja, kuten Claude Code ja Codex. Microsoftilla on ollut AI-ominaisuuksia noin kaksi vuotta, joten todellinen ero ei ole niin suuri kuin vertailu antaa ymmärtää. Suunnittelupäätös, jota kannattaa tarkastella: suorituskyvyn pääsyavaimet on rajattu koko yhdyskäytävään, mikä antaa pääsyn kaikkiin sen malleihin ja työkaluihin. Microsoft suosittelee yhtä avainta sovellusta kohden, mutta avaimen vuotaminen vaikuttaa koko yhdyskäytävään. Tiimit, jotka luottavat APIM-tilauksiin rajoittaakseen käyttäjiä tiettyihin API:hin, eivät löydä tätä rajaa täältä. Esiversio on parhaan yrityksen mukainen ilman palvelutasosopimusta, ja API:t, telemetria, rajoitukset, alueet ja hinnoittelu voivat muuttua ennen yleistä saatavuutta. Esiversion kiintiöt rajoittavat malleja, työkaluja, suorituskyvyn avaimia ja suorituskykyä, mutta yksityiskohtia ei ole vielä julkaistu; hinnoittelu tulee myöhemmin, mikä tekee kustannushallinnasta epävarmimman osan. Keskeinen vastaamaton kysymys on rinnakkaiselo, ja sekavuus on jo ilmeistä: AI-insinööri Rajib Mahapatro vastasi käyttäneensä sitä tuotannossa neljä kuukautta, mainiten välimuistin, sisällön turvallisuuden, lokituksen ja token-rajoitukset, jotka ovat olemassa olevia ominaisuuksia. Microsoftin dokumentaatio kuvaa AI Gatewayn olemassa olevan API Management -yhdyskäytävän laajennuksena, ei itsenäisenä tuotteena, eikä julkisia ohjeita ole siitä, periytyvätkö olemassa olevat Premium- tai Standard v2 -investoinnit, toimivatko ne rinnakkain vai siirtyvätkö ne. AI Gateway -taso on saatavilla Itä-Yhdysvallat 2:ssa ja Keski-Ruotsissa, ja se on ilmainen esiversion aikana, ja siinä on kokeellisia opetusohjelmia hallittujen Foundry-mallien julkaisemiseen ja token-nopeusrajoitusten tarkkailuun.