Alibaba ने Qwen2.5-Turbo का संदर्भ लंबाई 1 मिलियन टोकन तक बढ़ाया

अलीबाबा ने Qwen2.5-Turbo मॉडल की घोषणा की है, जो इसकी कॉन्टेक्स्ट लंबाई को 128K से बढ़ाकर 1M टोकन कर देता है, जो लगभग 10 लाख अंग्रेजी शब्दों या 15 लाख चीनी अक्षरों के बराबर है। यह मॉडल 1M लंबाई वाले Passkey Retrieval कार्य में 100% सटीकता प्राप्त करता है और लंबे टेक्स्ट मूल्यांकन बेंचमार्क RULER पर 93.1 अंक प्राप्त करता है, जो GPT-4 के 91.6 और GLM4-9B-1M के 89.9 से बेहतर है। स्पार्स अटेंशन मैकेनिज्म का उपयोग करके, 1M-टोकन कॉन्टेक्स्ट के लिए पहले टोकन का समय 4.9 मिनट से घटाकर 68 सेकंड कर दिया गया है, जो 4.3 गुना तेजी है। कीमत ₹0.3 प्रति 1M टोकन पर समान रहती है, जिससे Qwen2.5-Turbo समान लागत पर GPT-4o-mini की तुलना में 3.6 गुना अधिक टोकन प्रोसेस कर सकता है। मॉडल प्रतिस्पर्धी लघु-अनुक्रम क्षमताओं को बनाए रखता है, जो GPT-4o-mini के बराबर है। यह अलीबाबा क्लाउड मॉडल स्टूडियो एपीआई, हगिंग फ़ेस डेमो और मॉडलस्कोप डेमो के माध्यम से उपलब्ध है।