स्टीकर शॉक से अधिकारी AI पर पुनर्विचार करने को मजबूर

AnthropicAnthropic OpenAIOpenAI GitHubGitHub
उपयोग-आधारित बिलिंग के कारण AI लागत बढ़ने से व्यापारिक नेता हैरान हैं। KPMG सर्वेक्षण में 29% वरिष्ठ अधिकारियों को परिचालन लागत समझने में कठिनाई हुई, और लगभग आधे अपनी तैनाती पर पुनर्विचार कर रहे हैं। इस बीच, Netflix के एक इंजीनियर के ओपन सोर्स टूल ने टोकन लागत बचाने के लिए अनावश्यक इनपुट काट दिया।
KPMG के 20 देशों के 2,000 से अधिक वरिष्ठ अधिकारियों पर किए गए सर्वेक्षण में पाया गया कि 29% एंटरप्राइज AI परिनियोजन को बड़े पैमाने पर करते समय परिचालन लागत को समझने में संघर्ष करते हैं, और लगभग आधे तब परिनियोजन को पुनः चरणबद्ध कर रहे हैं जब लागत अपेक्षित मूल्य से अधिक हो जाती है। ऐन्थ्रोपिक, OpenAI और GitHub जैसे विक्रेता फ्लैट-फी सब्सक्रिप्शन से प्रति टोकन उपयोग-आधारित बिलिंग की ओर बढ़ गए हैं, जिससे बिल शॉक (बिल का झटका) लगता है। गार्टनर के शोध ने संकेत दिया है कि 2028 तक AI-सहायता प्राप्त कोडिंग लागत प्रति डेवलपर वैश्विक औसत वेतन से अधिक हो सकती है, खासकर कम मजदूरी वाले क्षेत्रों में। नेटफ्लिक्स के एक इंजीनियर द्वारा बनाया गया एक ओपन सोर्स टूल LLMs को भेजे जाने वाले अनावश्यक इनपुट (जैसे डेटाबेस स्कीमा और लॉग) को काटता है, जिससे उपयोगकर्ताओं के टोकन खर्च में सैकड़ों हजारों डॉलर बचते हैं। यह टूल सबमिशन से पहले अनावश्यक वाचालता को हटाने के लिए 'स्क्वैशर्स' का उपयोग करता है।
स्रोत: The Register AI/ML — मूल
इस विषय पर हमारी पिछली पोस्ट ↓
ताज़ा समाचार