Fireworks AI ने Fireworks Nexus लॉन्च किया: एक ड्रॉप-इन रूटिंग और लागत नियंत्रण परत जो नियमित कोडिंग कार्यों को ओपन-वेट मॉडल पर स्थानांतरित करती है
Fireworks AI
Anthropic
Moonshot AI
OpenAI
Fireworks AI ने इंजीनियरिंग संगठनों के लिए Fireworks Nexus, एक AI प्रबंधन और रूटिंग प्लेटफॉर्म लॉन्च किया है। यह नियमित कोडिंग कार्यों को ओपन-वेट मॉडल पर रूट करके लागत कम करता है, जबकि कठिन कार्यों को फ्रंटियर मॉडल पर रखता है। Faros AI और Arize के स्वतंत्र मूल्यांकन इस दृष्टिकोण का समर्थन करते हैं, जो 3-5 गुना लागत में कमी और बेहतर दक्षता दर्शाते हैं।
फायरवर्क्स एआई ने फायरवर्क्स नेक्सस लॉन्च किया, जो एक एआई प्रबंधन और रूटिंग प्लेटफॉर्म है जो इंजीनियरिंग संगठनों के लिए डिज़ाइन किया गया है। यह मौजूदा कोडिंग टूल्स को ओपन-वेट मॉडल्स की एक प्रबंधित परत से जोड़ता है, जहां नियमित कार्यों को महंगे फ्रंटियर मॉडल्स पर चलाने से होने वाली लागत अक्षमता को संबोधित करता है। नेक्सस में तीन घटक शामिल हैं: एंटरप्राइज़ कंट्रोल्स और लागत निगरानी, फायरकनेक्ट (अपाचे 2.0 के तहत एक-लाइन इंस्टॉल) के माध्यम से वर्कफ़्लो निरंतरता, और एक कस्टम मॉडल का उपयोग करके इंटेलिजेंट ट्रैफ़िक प्रबंधन जो अनुरोध की कठिनाई को स्कोर करता है। राउटर एक रिसर्च प्रीव्यू है, जो वर्तमान में क्लॉड ओपस 5 और जीएलएम-5.2 के बीच एंथ्रोपिक की पास-थ्रू के साथ, या किमी के3 और जीएलएम-5.2 के बीच ऑल-ओपन मोड में रूटिंग करता है। नोशन और डॉक्सिमिटी के साथ प्रारंभिक परीक्षण में प्रति मर्ज्ड पुल रिक्वेस्ट लागत में 33% की कमी दिखी। फारोस एआई ने सात रूट्स पर 211 वास्तविक इंजीनियरिंग कार्यों का मूल्यांकन किया, जिसमें जीएलएम-5.2 पर क्लॉड कोड ने ओपस 4.8 पर क्लॉड कोड के मुकाबले 0.568 स्कोर किया (बनाम 0.521), प्रति कार्य लागत $0.92 बनाम $1.76 रही। एरिज़ ने 2,400 रन के साथ 40 टर्मिनल-बेंच कार्यों पर 10 मॉडलों का मूल्यांकन किया, जिसमें दिखाया गया कि एक जानबूझकर एस्केलेशन सीढ़ी ने $0.525 प्रति सफल कार्य की लागत पर 32.3/40 कार्यों को हल करते हुए, अकेले जीपीटी-5.5 की तुलना में ($0.636 और 25/40) बेहतर प्रदर्शन किया। तीन डिप्लॉयमेंट पथ मौजूद हैं: फायरकनेक्ट प्लगइन, डायरेक्ट एपीआई कॉन्फ़िगरेशन, या फ्रंटियर कॉन्ट्रैक्ट के सामने राउटर को रखना।
स्रोत: MarkTechPost —
मूल