Als nächstesNächster Leitfaden
DeepSpeech-Architektur
Audio-KI
Audio-KI-GUIDE
The Conformer is a speech-recognition encoder architecture combining self-attention for global context with convolution for local patterns in an audio sequence.
Hören Sie sich diesen Leitfaden anKI-erzählt · ~1 min
The Conformer paper proposes a convolution-augmented Transformer for automatic speech recognition. Its block combines multi-head self-attention, a convolution module and two half-step feed-forward modules in a Macaron-style structure. Relative positional encoding supports attention over sequence positions. The authors evaluate on LibriSpeech and report results under specific model sizes and decoding conditions.
Self-attention models global interactions across speech frames.
A convolution module captures local patterns in the encoded sequence.
Macaron-style blocks place feed-forward modules around attention and convolution sublayers.
The original paper reports LibriSpeech word error rates for models with and without an external language model.
Compare Conformer variants on the target audio conditions and compute budget. Report model size, decoding procedure and external language-model use. The original paper does not establish that Conformer is the dominant architecture across every production speech system.
Kostenloser Newsletter
Drei verifizierte KI-Geschichten jeden Werktagmorgen, in einfachem Englisch geschrieben. Für immer kostenlos, keine Werbung.
Eine E‑Mail jeden Werktag. Abmelden mit einem Klick. Wir verkaufen oder teilen Ihre Adresse nie.
Testen Sie sich selbst
Sofortiges Feedback zu jeder Antwort und ein teilbares Zertifikat mit verifizierbarer ID, sobald Sie einen Kurs bestanden haben.
Unterstützen Sie kostenlose KI-Bildung. AI Understanding ist eine 501(c)(3) gemeinnützige Organisation – keine Werbung, keine Paywall, nie. Machen Sie eine Spende
The Conformer is a speech-recognition encoder architecture combining self-attention for global context with convolution for local patterns in an audio sequence.
Der Konformer verbindet Faltung (für lokale Muster) mit Selbstaufmerksamkeit (für globalen Kontext) innerhalb jedes Blocks.
Faltungen zeichnen sich durch feinkörnige lokale Hinweise zur Unterscheidung von Phonemen aus, während Selbstaufmerksamkeit Abhängigkeiten über die gesamte Äußerung hinweg modelliert; Konformer bekommt beides.
Der Conformer platziert die Selbstaufmerksamkeits- und Faltungsmodule zwischen zwei Feed-Forward-Modulen, die jeweils mit einem halbgewichteten Residuum versehen werden.
Der Conformer wurde 2020 von Google-Forschern eingeführt und entwickelte sich schnell zu einem Standard-Encoder für die Spracherkennung.
Das Faltungsmodul verkettet die punktweise Faltung mit einer Gated-Linear-Einheit, einer Tiefenfaltung, einer Batch-Normalisierung und einer Swish-Aktivierung und endet in einer weiteren punktweisen Faltung.
Lerne weiter
Weitere Leitfäden zu diesem Thema ausgewählt
Als nächstesNächster Leitfaden
DeepSpeech-Architektur
Audio-KI