Expedia, AI Ajanları Değil Deterministik İş Akışlarıyla AI Ops Platformu Kuruyor

Expedia Group, Service Telemetry Analyzer (STAR) adını verdiği, yapay zeka destekli bir gözlemlenebilirlik platformu tanıttı. Bu platform, mühendislerin servis telemetri verilerini analiz ederek yapılandırılmış kök neden değerlendirmeleri oluşturmasına ve üretim olaylarını araştırmasına yardımcı oluyor. Sistem, otonom yapay zeka ajanları yerine deterministik bir iş akışı izliyor: telemetri verilerini topluyor, alana özgü yönergelerle analiz gerçekleştiriyor, bulguları birleştiriyor ve olası kök nedenler ile önerilen sonraki adımları içeren bir rapor üretiyor. STAR, Datadog ile metrikler için ve büyük dil modeli (LLM) erişimi için dahili bir generatif yapay zeka ağ geçidi ile entegre edilmiş bir FastAPI uygulaması olarak uygulanmıştır. Konsolide bir teşhis oluşturmadan önce birden fazla özelleşmiş analiz yürütmek için yönerge zincirleme kullanır. Platform, Kubernetes tabanlı servislerden ve Java Sanal Makinesi (JVM) uygulamalarından gelen standartlaştırılmış altyapı telemetrisine odaklanır; istek işleme hızı, gecikme süresi, hata oranları, merkezi işlem birimi (CPU)/bellek kullanımı, konteyner yeniden başlatmaları ve Java yığın kullanımı gibi metrikleri içerir. Expedia, FastAPI arka plan görevlerini, Redis'i broker ve sonuç arka ucu olarak kullanan asenkron bir Celery mimarisi ile değiştirerek G/Ç yoğun işlemleri ve hız sınırlarını yönetmiştir. STAR, üretim olay araştırması, olay sonrası analiz, Kubernetes sorun giderme ve JVM bellek tanılaması için kullanılmaktadır. Gelecek planları arasında servis bağımlılık bilgisi ekleme, Model Bağlam Protokolü (MCP) araç entegrasyonu ve konuşma arayüzleri yer almaktadır. Yönerge yönetimi ve değerlendirmesi Langfuse tarafından desteklenmektedir.