Expedia ने बनाया AI Ops प्लेटफॉर्म, AI एजेंट्स की बजाय डिटरमिनिस्टिक वर्कफ्लो के साथ
Expedia
Langfuse
Expedia Group ने STAR लॉन्च किया है, जो एक आंतरिक AI-सहायक ऑब्जर्वेबिलिटी प्लेटफॉर्म है जो प्रीडिफाइंड डायग्नोस्टिक वर्कफ्लो के माध्यम से ऑपरेशनल मेट्रिक्स को LLMs के साथ जोड़ता है। यह डिटरमिनिस्टिक दृष्टिकोण इंजीनियरों को संरचित रूट कॉज आकलन उत्पन्न करके प्रोडक्शन घटनाओं की जांच करने में मदद करता है, जिससे टाइम-टू-नॉलेज (TTK) और टाइम-टू-रिकवरी (TTR) कम होता है, जबकि सत्यापन के लिए मनुष्यों को लूप में रखा जाता है।
एक्सपीडिया ग्रुप ने सर्विस टेलिमेट्री एनालाइज़र (STAR) पेश किया, जो एक AI-सहायता प्राप्त ऑब्ज़र्वेबिलिटी प्लेटफ़ॉर्म है जो इंजीनियरों को सर्विस टेलिमेट्री डेटा का विश्लेषण करके और संरचित रूट कॉज़ आकलन उत्पन्न करके प्रोडक्शन घटनाओं की जांच करने में मदद करता है। सिस्टम स्वायत्त AI एजेंटों के बजाय एक नियतात्मक वर्कफ़्लो का पालन करता है: यह टेलिमेट्री डेटा एकत्र करता है, डोमेन-विशिष्ट प्रॉम्प्ट के साथ विश्लेषण करता है, निष्कर्षों को एकत्रित करता है, और संभावित रूट कॉज़ और सुझाए गए अगले कदमों के साथ एक रिपोर्ट तैयार करता है। STAR को FastAPI एप्लिकेशन के रूप में लागू किया गया है जो मेट्रिक्स के लिए Datadog और LLM एक्सेस के लिए एक आंतरिक जनरेटिव AI गेटवे के साथ एकीकृत है। यह एक समेकित निदान उत्पन्न करने से पहले कई विशेषीकृत विश्लेषणों को निष्पादित करने के लिए प्रॉम्प्ट चेनिंग का उपयोग करता है। प्लेटफ़ॉर्म Kubernetes-आधारित सेवाओं और JVM एप्लिकेशन से मानकीकृत इन्फ्रास्ट्रक्चर टेलिमेट्री पर ध्यान केंद्रित करता है, जिसमें रिक्वेस्ट थ्रूपुट, लेटेंसी, एरर रेट्स, CPU/मेमोरी उपयोग, कंटेनर रीस्टार्ट और Java हीप उपयोग जैसे मेट्रिक्स शामिल हैं। एक्सपीडिया ने I/O-गहन ऑपरेशन और रेट लिमिट को संभालने के लिए FastAPI बैकग्राउंड टास्क को Redis का उपयोग करके ब्रोकर और रिज़ल्ट बैकएंड के रूप में एक एसिंक्रोनस Celery आर्किटेक्चर से बदल दिया। STAR का उपयोग प्रोडक्शन घटना जांच, पोस्ट-इंसिडेंट विश्लेषण, Kubernetes समस्या निवारण और JVM मेमोरी डायग्नोस्टिक्स के लिए किया जाता है। भविष्य की योजनाओं में सेवा निर्भरता जानकारी, Model Context Protocol (MCP) टूल एकीकरण और संवादी इंटरफ़ेस जोड़ना शामिल है। प्रॉम्प्ट प्रबंधन और मूल्यांकन Langfuse द्वारा समर्थित है।
स्रोत: InfoQ 中国 —
मूल
