Yandex traint zijn slimme luidspreker met nieuwe snelle commando's zonder kwaliteitsverlies van oude
Яндекс
Yandex heeft nieuwe snelle commando's ('vind ik leuk', 'vind ik niet leuk', 'zet Bluetooth aan', 'zet Bluetooth uit') toegevoegd aan zijn slimme luidspreker zonder bestaande commando's te verslechteren. Een modulaire netwerkuitbreidingsaanpak hergebruikte interne representaties van het bevroren basismodel, waardoor het CPU-gebruik met 35%, het RAM-gebruik met 50% en het aantal valse activeringen met 60% werd verminderd.
De slimme luidspreker van Yandex (bijvoorbeeld Station Street) ondersteunt snelle commando's — korte zinnen zoals 'volgende' of 'stillere' — die het activeringswoord 'Alice' omzeilen en lokaal op het apparaat worden uitgevoerd. Om nieuwe commando's toe te voegen zonder de oude te beschadigen, verwierp het team volledige hertraining (risico op regressie), aparte kleine modellen (inefficiënt en overbodig) en klassieke methoden voor continu leren zoals Elastic Weight Consolidation (EWC) (geen garanties). In plaats daarvan gebruikten ze een modulaire netwerkuitbreiding: vanaf een bepaalde laag van het bevroren oorspronkelijke model extraheert een parallelle tak activaties, berekent een kleine additieve vector en voegt deze bij elke stap samen. Hierdoor kunnen nieuwe commando's worden geleerd terwijl oude behouden blijven, met volledige controle over geheugen en rekenkracht. De training verliep in twee fasen — voortraining op 60–100 miljoen onbewerkte ASR-logboeken en fijnafstemming op 400.000–1 miljoen schone thuisopnames. Resultaten: CPU-belasting verminderd met 35%, RAM met 50% en valse activeringen daalden met 60%. Het werk werd gepubliceerd op Interspeech 2026.
Bron: Habr — хаб ML —
origineel