एजेंटिक एआई के लिए एंटरप्राइज वातावरण का निर्माण

इंटेल ने एजेंटिक एआई वर्कलोड के सैकड़ों प्रयोग किए और एंटरप्राइज नेताओं के लिए पांच सबक निकाले। उनका तर्क है कि एजेंटिक एआई केवल इंफ्रेंस नहीं, बल्कि एक बड़ी सिस्टम समस्या है, और अधिकांश मौजूदा हार्नेस समग्र सिस्टम प्रदर्शन को नहीं मापते। क्षमता की योजना एजेंटों की संख्या के बजाय प्रति वर्चुअल सेंट्रल प्रोसेसिंग यूनिट (वीसीपीयू) घनत्व के आधार पर बनाई जानी चाहिए। एजेंट टास्क लेटेंसी (पी95) की निगरानी औसत सेंट्रल प्रोसेसिंग यूनिट (सीपीयू) उपयोग की तुलना में अधिक जानकारीपूर्ण है। एजेंट होस्ट करने वाले सिस्टम को डिफ़ॉल्ट रूप से स्केल-आउट करना चाहिए, और स्केल-अप को केवल उन वर्कलोड के लिए आरक्षित रखना चाहिए जिनमें प्रति एजेंट कंप्यूट भारी हो। इंटेल ने एजेंटिक एआई वर्कलोड को बेंचमार्क करने के लिए टर्मिनल-बेंच का विस्तार किया, जिसमें एजेंट प्रदर्शन को लार्ज लैंग्वेज मॉडल (एलएलएम) परिवर्तनशीलता से अलग करने के लिए एलएलएम प्रतिक्रियाओं का एक नियतात्मक रिकॉर्ड-रीप्ले उपयोग किया गया। टास्क मिश्रण में संकलन, परीक्षण, डेटाबेस संचालन और बहुत कुछ शामिल था। एजेंटिक एआई को तीन चरणों में तैनात किया जाना चाहिए: एजेंट घनत्व द्वारा योजना बनाएं, पी95 लेटेंसी पर केंद्रित नई ऑब्जर्वेबिलिटी अपनाएं, और डिफ़ॉल्ट रूप से स्केल आउट करें। लेख एजेंटिक एआई के लिए एंटरप्राइज पर्सनास की भी पहचान करता है: जवाबदेह नेता जो साइकल टाइम, उत्पादकता और लागत प्रबंधन में सुधार करते हैं।