Expedia rakentaa AI Ops -alustan deterministisilla työnkuluilla, ei tekoälyagenteilla

Expedia Group esitteli Service Telemetry Analyzerin (STAR), tekoälyavusteisen havainnointialustan, joka auttaa insinöörejä selvittämään tuotantohäiriöitä analysoimalla palvelutelemetriatietoja ja tuottamalla jäsenneltyjä juurisyyarvioita. Järjestelmä noudattaa determinististä työnkulkua itsenäisten tekoälyagenttien sijaan: se kerää telemetriatietoja, suorittaa analyysin toimialuekohtaisilla kehotteilla, kokoaa havainnot ja tuottaa raportin, joka sisältää mahdolliset juurisyyt ja ehdotetut seuraavat toimenpiteet. STAR on toteutettu FastAPI-sovelluksena, joka on integroitu Datadogin kanssa mittareita varten ja sisäisen generatiivisen tekoälyn yhdyskäytävän kanssa suurten kielimallien käyttöä varten. Se käyttää kehote-ketjutusta suorittaakseen useita erikoistuneita analyyseja ennen yhdistetyn diagnoosin tuottamista. Alusta keskittyy standardoituun infrastruktuuritelemetriaan Kubernetes-pohjaisista palveluista ja JVM-sovelluksista, mukaan lukien mittarit, kuten pyyntöjen läpijuoksu, viive, virhetasot, suorittimen ja muistin käyttö, säiliöiden uudelleenkäynnistykset ja Java-kasan käyttö. Expedia korvasi FastAPI-taustatehtävät asynkronisella Celery-arkkitehtuurilla, joka käyttää Redis-välittäjänä ja tulosten tallennuksena käsitelläkseen I/O-intensiivisiä toimintoja ja nopeusrajoituksia. STARia käytetään tuotantohäiriöiden tutkintaan, häiriöiden jälkeiseen analyysiin, Kubernetes-vianmääritykseen ja JVM-muistidiagnostiikkaan. Tulevaisuuden suunnitelmiin kuuluvat palveluriippuvuustietojen lisääminen, Model Context Protocol (MCP) -työkaluintegraatio ja keskustelupohjaiset käyttöliittymät. Kehotteiden hallintaa ja arviointia tuetaan Langfusella.