Yandex, 스마트 스피커에 기존 명령어 품질 유지하며 새로운 빠른 명령어 추가

Yandex의 스마트 스피커(예: Station Street)는 빠른 명령(예: '다음' 또는 '더 작게' 같은 짧은 구문)을 지원하며, 활성화 단어 'Alice'를 거치지 않고 기기에서 로컬로 실행됩니다. 기존 명령을 손상시키지 않으면서 새 명령을 추가하기 위해 팀은 완전 재훈련(회귀 위험), 개별 소형 모델(비효율적이고 중복됨), EWC와 같은 기존의 지속적 학습 방법(보장 없음)을 거부했습니다. 대신 모듈식 네트워크 확장을 사용했습니다. 동결된 원래 모델의 특정 계층에서 시작하여 병렬 분기가 활성화를 추출하고, 작은 덧셈 벡터를 계산하여 각 단계에서 연결합니다. 이를 통해 메모리와 계산을 완전히 제어하면서 기존 명령을 유지하고 새 명령을 학습할 수 있습니다. 훈련은 두 단계로 진행되었습니다. 6,000만~1억 개의 비선별 ASR 로그에 대한 사전 훈련과 40만~100만 개의 깨끗한 가정 내 녹음에 대한 미세 조정입니다. 결과: CPU 부하 35% 감소, RAM 50% 감소, 오활성화 60% 감소. 이 연구는 Interspeech 2026에서 발표되었습니다.