SeterusnyaPanduan seterusnya
Seni Bina DeepSpeech
AI Audio
PANDUAN AI Audio
The Conformer is a speech-recognition encoder architecture combining self-attention for global context with convolution for local patterns in an audio sequence.
Dengar panduan iniAI-diceritakan · ~1 min
The Conformer paper proposes a convolution-augmented Transformer for automatic speech recognition. Its block combines multi-head self-attention, a convolution module and two half-step feed-forward modules in a Macaron-style structure. Relative positional encoding supports attention over sequence positions. The authors evaluate on LibriSpeech and report results under specific model sizes and decoding conditions.
Self-attention models global interactions across speech frames.
A convolution module captures local patterns in the encoded sequence.
Macaron-style blocks place feed-forward modules around attention and convolution sublayers.
The original paper reports LibriSpeech word error rates for models with and without an external language model.
Compare Conformer variants on the target audio conditions and compute budget. Report model size, decoding procedure and external language-model use. The original paper does not establish that Conformer is the dominant architecture across every production speech system.
Newsletter percuma
Tiga cerita AI yang disahkan setiap pagi hari bekerja, ditulis dalam Bahasa Inggeris biasa. Percuma selamanya, tiada iklan.
Satu e-mel setiap hari bekerja. Berhenti melanggan dalam satu klik. Kami tidak pernah menjual atau berkongsi alamat anda.
Uji diri anda
Maklum balas segera pada setiap jawapan, dan sijil yang boleh dikongsi dengan ID yang boleh disahkan sebaik sahaja anda lulus kursus.
Sokong pendidikan AI percuma. AI Understanding ialah pertubuhan bukan keuntungan 501(c)(3) — tiada iklan, tiada bayaran dinding, selamanya. Buat derma
The Conformer is a speech-recognition encoder architecture combining self-attention for global context with convolution for local patterns in an audio sequence.
Conformer menggabungkan konvolusi (untuk corak tempatan) dengan perhatian diri (untuk konteks global) di dalam setiap blok.
Konvolusi cemerlang dalam isyarat tempatan yang terperinci yang membezakan fonem, manakala model perhatian kendiri bergantung pada keseluruhan ujaran; Conformer mendapat kedua-duanya.
Conformer meletakkan modul perhatian kendiri dan konvolusi antara dua modul suapan ke hadapan, setiap satu digunakan dengan baki separuh wajaran.
Conformer telah diperkenalkan oleh penyelidik Google pada tahun 2020 dan dengan cepat menjadi pengekod pengecaman pertuturan standard.
Modul lilitan merantai lilitan arah arah dengan unit linear berpagar, lilitan mendalam, penormalan kelompok dan pengaktifan Swish, berakhir dengan penukaran arah satu lagi.
Teruskan belajar
Lebih banyak panduan dipilih untuk topik ini
SeterusnyaPanduan seterusnya
Seni Bina DeepSpeech
AI Audio