SelanjutnyaPanduan berikutnya
Arsitektur DeepSpeech
AI Audio
PANDUAN Audio AI
The Conformer is a speech-recognition encoder architecture combining self-attention for global context with convolution for local patterns in an audio sequence.
Dengarkan panduan iniDiceritakan oleh AI · ~1 min
The Conformer paper proposes a convolution-augmented Transformer for automatic speech recognition. Its block combines multi-head self-attention, a convolution module and two half-step feed-forward modules in a Macaron-style structure. Relative positional encoding supports attention over sequence positions. The authors evaluate on LibriSpeech and report results under specific model sizes and decoding conditions.
Self-attention models global interactions across speech frames.
A convolution module captures local patterns in the encoded sequence.
Macaron-style blocks place feed-forward modules around attention and convolution sublayers.
The original paper reports LibriSpeech word error rates for models with and without an external language model.
Compare Conformer variants on the target audio conditions and compute budget. Report model size, decoding procedure and external language-model use. The original paper does not establish that Conformer is the dominant architecture across every production speech system.
Buletin gratis
Tiga cerita AI terverifikasi setiap pagi hari kerja, ditulis dalam bahasa Inggris sederhana. Gratis selamanya, tanpa iklan.
Satu email setiap hari kerja. Berhenti berlangganan dalam satu klik. Kami tidak pernah menjual atau membagikan alamat Anda.
Uji diri Anda sendiri
Umpan balik instan untuk setiap jawaban, dan sertifikat yang dapat dibagikan dengan ID yang dapat diverifikasi setelah Anda lulus kursus.
Mendukung pendidikan AI gratis. AI Understanding adalah organisasi nirlaba 501(c)(3) — tanpa iklan, tanpa paywall, selamanya. Berikan sumbangan
The Conformer is a speech-recognition encoder architecture combining self-attention for global context with convolution for local patterns in an audio sequence.
Conformer memadukan konvolusi (untuk pola lokal) dengan perhatian mandiri (untuk konteks global) di dalam setiap blok.
Konvolusi unggul dalam isyarat lokal yang terperinci yang membedakan fonem, sementara perhatian diri memodelkan ketergantungan di seluruh ucapan; Konformer mendapatkan keduanya.
Conformer menempatkan modul self-attention dan konvolusi di antara dua modul feed-forward, masing-masing diterapkan dengan residu berbobot setengah.
Conformer diperkenalkan oleh peneliti Google pada tahun 2020 dan dengan cepat menjadi encoder pengenalan ucapan standar.
Modul konvolusi merangkai konvolusi titik dengan unit linier berpintu, konvolusi mendalam, normalisasi batch, dan aktivasi Swish, diakhiri dengan konv.
Teruslah belajar
Panduan lainnya dipilih untuk topik ini
SelanjutnyaPanduan berikutnya
Arsitektur DeepSpeech
AI Audio