सेल्फ-होस्टिंग बनाम एपीआई: ओपन मॉडल के युग में एक हल किए गए कार्य की वास्तविक लागत की गणना कैसे करें
Moonshot AI
DeepSeek
Anthropic
लेख तर्क देता है कि प्रति-टोकन कीमतों के आधार पर सेल्फ-होस्टिंग और एपीआई की तुलना करना भ्रामक है। यह मिश्रित एपीआई मूल्य और सेल्फ-होस्टिंग के लिए स्वामित्व की कुल लागत का उपयोग करने का प्रस्ताव करता है, जिसमें ब्रेक-ईवन वॉल्यूम उपयोग पर निर्भर करता है। हल किए गए कार्यों के लिए, यह प्रति-कार्य लागत मीट्रिक प्रस्तुत करता है जिसमें मॉडल समाधान दर और टोकन बजट शामिल होते हैं, इस बात पर प्रकाश डालते हुए कि प्रदाता के पैमाने के कारण सस्ता एपीआई अक्सर एक ही मॉडल के लिए सेल्फ-होस्टिंग को हरा देता है।
लेखक स्व-होस्टिंग और API लागतों की तुलना केवल प्रति टोकन के आधार पर करने की सामान्य प्रथा की आलोचना करते हैं, यह बताते हुए कि स्व-होस्टिंग एक निश्चित लागत है जबकि API परिवर्तनशील है, और प्रासंगिक मीट्रिक प्रति हल किए गए कार्य की लागत है, न कि प्रति टोकन। खुले मॉडल SWE-bench Verified जैसे बेंचमार्क पर गुणवत्ता में बराबरी कर चुके हैं, जिससे चुनाव एक आर्थिक निर्णय बन गया है। भाग 1 एक ब्रेक-ईवन विश्लेषण प्रस्तुत करता है: API के लिए इनपुट/आउटपुट टोकन मूल्यों का मिश्रण (उदाहरण के लिए, लंबी पीढ़ी के लिए Claude Opus 4.8 $15.00 प्रति मिलियन टोकन, Kimi K3 $9.00, DeepSeek V3.2 $0.286) और 8×H200 नोड के लिए स्व-होस्टिंग लागत का अनुमान (परिशोधित लगभग $7.7-10.3k प्रति माह और बिजली लगभग $580-880 प्रति माह)। ब्रेक-ईवन तब होता है जब मासिक वॉल्यूम V, प्रति_मिलियन_स्व_लागत / (मिश्रित_मूल्य_एपीआई - सीमांत_लागत_स्व) से अधिक हो, लेकिन पर्याप्त थ्रूपुट क्षमता की भी आवश्यकता होती है; कम उपयोग API को सस्ता बनाता है। भाग 2 प्रति हल किए गए कार्य की लागत = (प्रति प्रयास टोकन_बजट * प्रति टोकन लागत) / हल_दर प्रस्तुत करता है, जो SWE-bench Verified स्कोर और 1.5 मिलियन टोकन के निश्चित बजट का उपयोग करता है। DeepSeek V3.2 API के माध्यम से प्रति कार्य $0.49 की लागत आती है, जबकि दिए गए उपयोग पर स्व-होस्टेड संस्करण $4.37 खर्च करता है, यह दर्शाता है कि सस्ता API उसी मॉडल के लिए स्व-होस्टिंग को बेहतर प्रदर्शन करता है। स्व-होस्टिंग केवल महंगे बंद API जैसे Claude Opus 4.8 ($11.54) या Kimi K3 ($6.57) के मुकाबले उच्च उपयोग पर जीतती है। भाग 3 गैर-लागत कारकों पर ध्यान देता है: डेटा रेजीडेंसी (स्व-होस्टिंग को मजबूर करता है), विक्रेता लॉक-इन और मूल्य अस्थिरता (उदाहरण के लिए, मांग के कारण 48 घंटों के बाद Moonshot AI ने Kimi K3 के साइनअप रोक दिए), अपडेट की विषमता (API को मुफ्त अपग्रेड मिलता है, स्व-होस्टिंग में प्रयास लगता है), और हार्डवेयर मूल्यह्रास जो लेखांकन कार्यक्रमों के बजाय NVIDIA रिलीज़ चक्रों से जुड़ा है। निष्कर्ष यह है कि API बनाम स्व-होस्टिंग का निर्णय बुनियादी ढांचे के उपयोग, डेटा आवश्यकताओं और परिचालन बाधाओं पर निर्भर करता है, न कि केवल टोकन मूल्य पर।
स्रोत: Habr — хаб ИИ —
मूल
