ДалееСледующее руководство
Архитектура DeepSpeech
Аудио ИИ
Аудио РУКОВОДСТВО ПО ИИ
The Conformer is a speech-recognition encoder architecture combining self-attention for global context with convolution for local patterns in an audio sequence.
Прослушайте это руководствоОзвучено ИИ · ~1 min
The Conformer paper proposes a convolution-augmented Transformer for automatic speech recognition. Its block combines multi-head self-attention, a convolution module and two half-step feed-forward modules in a Macaron-style structure. Relative positional encoding supports attention over sequence positions. The authors evaluate on LibriSpeech and report results under specific model sizes and decoding conditions.
Self-attention models global interactions across speech frames.
A convolution module captures local patterns in the encoded sequence.
Macaron-style blocks place feed-forward modules around attention and convolution sublayers.
The original paper reports LibriSpeech word error rates for models with and without an external language model.
Compare Conformer variants on the target audio conditions and compute budget. Report model size, decoding procedure and external language-model use. The original paper does not establish that Conformer is the dominant architecture across every production speech system.
Бесплатная рассылка
Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.
Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.
Проверьте себя
Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.
Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование
The Conformer is a speech-recognition encoder architecture combining self-attention for global context with convolution for local patterns in an audio sequence.
Конформер объединяет свертку (для локальных шаблонов) с самообслуживанием (для глобального контекста) внутри каждого блока.
Свертки превосходно справляются с мелкими локальными сигналами, различающими фонемы, в то время как самовнимание моделирует зависимости во всем высказывании; Конформист получает и то, и другое.
Конформер помещает модули самообслуживания и свертки между двумя модулями прямой связи, каждый из которых применяется с половинной остаточной величиной.
Conformer был представлен исследователями Google в 2020 году и быстро стал стандартным кодером для распознавания речи.
Модуль свертки связывает точечную свертку с вентилируемой линейной единицей, глубинную свертку, пакетную нормализацию и активацию Swish, заканчивающуюся еще одним точечным преобразованием.
Продолжайте учиться
Другие руководства, выбранные по этой теме
ДалееСледующее руководство
Архитектура DeepSpeech
Аудио ИИ