एक डॉलर में एजेंट: हर्मीस एजेंट और डीपसीक वी4 फ्लैश संयोजन की अर्थव्यवस्था

अगस्त की शुरुआत में, X पर एक स्क्रीनशॉट प्रसारित हुआ जिसमें एक डैशबोर्ड दिखाया गया था जिसमें सैकड़ों मिलियन प्रोसेस किए गए टोकन और सिर्फ एक डॉलर से अधिक का बिल दिख रहा था, जो कथित तौर पर डीपसीक V4 फ्लैश मॉडल पर ओपन हर्मीस एजेंट का उपयोग करने से आया था। हर्मीस एजेंट, जिसे नूस रिसर्च द्वारा MIT लाइसेंस के तहत विकसित किया गया है, किसी भी OpenAI-संगत एंडपॉइंट के साथ काम करता है और इसमें एक बंद लर्निंग लूप होता है, जो सीखे गए कौशल को मार्कडाउन फ़ाइलों में सहेजता है। डीपसीक V4 फ्लैश, जो 31 जुलाई से सार्वजनिक बीटा में है, अप्रैल पूर्वावलोकन के समान आर्किटेक्चर का उपयोग करता है, लेकिन फाइन-ट्यूनिंग के बाद बेहतर एजेंटिक क्षमताओं के साथ। मुख्य लागत बचत कम बेस रेट से नहीं, बल्कि स्वचालित प्रीफ़िक्स कैशिंग से आती है: दोहराए गए प्रॉम्प्ट प्रीफ़िक्स कई गुना कम दर पर बिल किए जाते हैं। एजेंटिक लूप इस मैकेनिज्म के साथ लगभग पूरी तरह से फिट बैठता है, क्योंकि प्रत्येक कॉल समान सिस्टम प्रॉम्प्ट और इतिहास को फिर से भेजता है, जिसमें केवल कुछ नई लाइनें जुड़ती हैं। हालांकि, बचत तब टूट जाती है जब प्रॉम्प्ट हेडर में तत्व बदलते हैं, जैसे टाइमस्टैम्प, सत्र पहचानकर्ता, या गतिशील रूप से पुनः क्रमबद्ध टूल सूचियाँ। विक्रेता का दावा है कि छोटा मॉडल एजेंटिक बेंचमार्क पर बड़े पूर्वावलोकन मॉडल से बेहतर प्रदर्शन करता है, लेकिन भारी तर्क के लिए V4-Pro का उपयोग करने की सिफारिश करता है। पीक-आवर अधिभार की घोषणा की गई है लेकिन अभी तक सक्रिय नहीं है, और Pro तक बढ़ाने के साथ हाइब्रिड रूटिंग कैश को रीसेट करती है। लेख मूल्य निर्धारण दरें प्रदान करता है, सामान्य कैश-ब्रेकर सूचीबद्ध करता है, और दर सीमा और सुरक्षा परिधि जैसे नियोजन और परिचालन संबंधी विचारों पर सलाह देता है।