Yandex heeft het probleem van 'catastrofaal vergeten' in AI-modellen opgelost — slimme apparaten zullen commando's niet meer vergeten
Яндекс
Onderzoekers van Yandex hebben een manier ontwikkeld om nieuwe spraakopdrachten toe te voegen aan slimme apparaten zonder dat de herkenningskwaliteit van reeds bekende zinnen achteruitgaat. De technologie is bedoeld voor offline commando's en maakt het mogelijk om apparaatmogelijkheden bij te werken, zelfs met beperkte rekenkracht. De studie is geaccepteerd voor de Interspeech 2026-conferentie.
Onderzoekers van Yandex hebben een methode ontwikkeld om nieuwe spraakopdrachten toe te voegen aan slimme apparaten zonder dat dit ten koste gaat van de nauwkeurigheid waarmee al bekende zinnen worden herkend. De technologie is bedoeld voor opdrachten die luidsprekers, huishoudelijke apparaten en auto-assistenten uitvoeren zonder internetverbinding. Fabrikanten van slimme apparaten moeten de set offline opdrachten regelmatig uitbreiden, maar na het trainen van het model op nieuwe opdrachten kan het model slechter gaan presteren op al bekende queries. Dit effect wordt 'catastrofaal vergeten' genoemd. Om dit tegen te gaan, worden methoden voor continu leren gebruikt. Onderzoekers van Yandex stelden voor om een aparte kleine module toe te voegen aan het hoofdneurale netwerk, die nieuwe opdrachten verwerkt, terwijl het model zelf ongewijzigd blijft en al bekende zinnen met dezelfde nauwkeurigheid blijft herkennen. De nieuwe aanpak werd getest op de spraakopdrachtenset Google Speech Commands: het gemiddelde misserpercentage voor nieuwe zinnen daalde met bijna een derde, van 6,46% naar 4,37%, terwijl de benodigde toename van de modelgrootte voor de methode minder dan 10% bedroeg. De studie is geaccepteerd voor de Interspeech 2026-conferentie, die van 27 september tot 1 oktober in Sydney zal plaatsvinden.
Bron: Rusbase (RB.RU) —
origineel
