Yandex ने अपने स्मार्ट स्पीकर को पुराने कमांड की गुणवत्ता खोए बिना नए तेज़ कमांड सिखाए
Яндекс
Yandex ने अपने स्मार्ट स्पीकर में मौजूदा कमांड को खराब किए बिना नए तेज़ कमांड ('पसंद', 'नापसंद', 'ब्लूटूथ चालू करें', 'ब्लूटूथ बंद करें') जोड़े हैं। एक मॉड्यूलर नेटवर्क विस्तार दृष्टिकोण ने फ्रोज़न बेस मॉडल के आंतरिक प्रतिनिधित्व का पुन: उपयोग किया, जिससे CPU उपयोग में 35%, RAM में 50%, और झूठे सक्रियणों में 60% की कमी आई।
Yandex का स्मार्ट स्पीकर (जैसे Station Street) तेज़ कमांड — 'अगला' या 'धीमा' जैसे छोटे वाक्यांश — को सपोर्ट करता है जो एक्टिवेशन वर्ड 'Alice' को बायपास करते हैं और डिवाइस पर स्थानीय रूप से चलते हैं। पुराने कमांड को खराब किए बिना नए कमांड जोड़ने के लिए, टीम ने पूरी रीट्रेनिंग (रीग्रेशन का जोखिम), अलग-अलग छोटे मॉडल (अकुशल और अप्रचलित), और EWC जैसी क्लासिकल कंटिन्यूअल लर्निंग विधियों (कोई गारंटी नहीं) को खारिज कर दिया। इसके बजाय, उन्होंने मॉड्यूलर नेटवर्क एक्सपेंशन का उपयोग किया: फ़्रोज़न मूल मॉडल की एक निश्चित लेयर से एक समानांतर ब्रांच एक्टिवेशन निकालती है, एक छोटा एडिटिव वेक्टर कंप्यूट करती है, और इसे हर स्टेप पर कॉन्केटिनेट करती है। इससे पुराने कमांड को संरक्षित करते हुए नए कमांड सीखना संभव होता है, साथ ही मेमोरी और कंप्यूट पर पूर्ण नियंत्रण रहता है। प्रशिक्षण में दो चरण शामिल थे — 60–100 मिलियन अनक्यूरेटेड ASR लॉग पर प्रीट्रेनिंग और 400,000–1 मिलियन साफ घरेलू रिकॉर्डिंग पर फाइन-ट्यूनिंग। परिणाम: CPU लोड 35% कम, रैम 50% कम, और फॉल्स एक्टिवेशन 60% कम हुआ। यह काम Interspeech 2026 में प्रकाशित किया गया।
स्रोत: Habr — хаб ML —
मूल
