Expedia Bouwt AI Ops-platform met Deterministische Workflows, Geen AI-agenten

Expedia Group heeft de Service Telemetry Analyzer (STAR) geïntroduceerd, een AI-ondersteund observability-platform dat ingenieurs helpt bij het onderzoeken van productie-incidenten door servicetelemetriegegevens te analyseren en gestructureerde hoofdoorzaakbeoordelingen te genereren. Het systeem volgt een deterministische workflow in plaats van autonome AI-agenten: het verzamelt telemetriegegevens, voert analyses uit met domeinspecifieke prompts, aggregeert bevindingen en produceert een rapport met potentiële hoofdoorzaken en voorgestelde vervolgstappen. STAR is geïmplementeerd als een FastAPI-applicatie die is geïntegreerd met Datadog voor metrieken en een interne generatieve AI-gateway voor LLM-toegang. Het gebruikt promptketening om meerdere gespecialiseerde analyses uit te voeren voordat het een geconsolideerde diagnose genereert. Het platform richt zich op gestandaardiseerde infrastructuurtelemetrie van Kubernetes-gebaseerde services en JVM-applicaties, inclusief metrieken zoals verzoekdoorvoer, latentie, foutpercentages, CPU-/geheugengebruik, containerherstarten en Java-heapgebruik. Expedia heeft FastAPI-achtergrondtaken vervangen door een asynchrone Celery-architectuur met Redis als broker en resultatenbackend om I/O-intensieve bewerkingen en snelheidslimieten aan te kunnen. STAR wordt gebruikt voor productie-incidentonderzoek, post-incidentanalyse, Kubernetes-probleemoplossing en JVM-geheugendiagnostiek. Toekomstplannen omvatten het toevoegen van service-afhankelijkheidsinformatie, Model Context Protocol (MCP)-toolintegratie en conversationele interfaces. Promptbeheer en -evaluatie worden ondersteund door Langfuse.