Яндекс решил проблему катастрофического забывания в умных колонках
Специалисты «Яндекса» создали метод обновления голосовых команд для умных устройств без утраты старых навыков. Новая архитектура нейросети исключает «катастрофическое забывание». Исследование принято на конференцию Interspeech 2026 в Сиднее.
Специалисты «Яндекса» разработали методику, позволяющую обновлять перечень ключевых слов-триггеров в умных устройствах. Благодаря этому гаджеты получают возможность реагировать на новые голосовые команды, при этом не утрачивая способности распознавать уже известные, сообщили в компании.
В компании отметили, что для устройств с голосовым управлением требуется регулярно расширять набор фраз, которые они способны понимать автономно, без подключения к интернету. Обычно для этого необходимо дообучать модель распознавания речи. Однако после такой процедуры устройство может начать хуже распознавать уже знакомые команды. В машинном обучении данный эффект известен как «катастрофическое забывание». Существующие методы непрерывного обучения позволяют уменьшить его, но полностью устранить не удаётся.
В «Яндексе» предложили вместо изменения всей уже работающей нейросети добавлять к ней небольшой модуль — обучаемую ветку, которая отвечает за распознавание новых команд.
Эта ветка использует промежуточные признаки, которые уже извлекает основная модель, но имеет собственный классификатор для новых команд. При этом параметры базовой модели остаются неизменными, включая параметры нормализации и основной классификатор. Поэтому результаты ее работы для старых команд остаются абсолютно такими же, как до обновления.
Эффективность предложенной модели была проверена экспериментально. Научное исследование, описывающее новый подход, принято к публикации на международной конференции Interspeech 2026, которая состоится в конце сентября в Сиднее.