ΕπόμενοΕπόμενος οδηγός
Αρχιτεκτονική DeepSpeech
Ήχος AI
ΟΔΗΓΟΣ Audio AI
The Conformer is a speech-recognition encoder architecture combining self-attention for global context with convolution for local patterns in an audio sequence.
Ακούστε αυτόν τον οδηγόαφήγηση με AI · ~1 min
The Conformer paper proposes a convolution-augmented Transformer for automatic speech recognition. Its block combines multi-head self-attention, a convolution module and two half-step feed-forward modules in a Macaron-style structure. Relative positional encoding supports attention over sequence positions. The authors evaluate on LibriSpeech and report results under specific model sizes and decoding conditions.
Self-attention models global interactions across speech frames.
A convolution module captures local patterns in the encoded sequence.
Macaron-style blocks place feed-forward modules around attention and convolution sublayers.
The original paper reports LibriSpeech word error rates for models with and without an external language model.
Compare Conformer variants on the target audio conditions and compute budget. Report model size, decoding procedure and external language-model use. The original paper does not establish that Conformer is the dominant architecture across every production speech system.
Δωρεάν ενημερωτικό δελτίο
Τρία επαληθευμένα νέα AI κάθε πρωί της εβδομάδας, γραμμένα σε απλή αγγλική. Δωρεάν για πάντα, χωρίς διαφημίσεις.
Ένα email κάθε εργάσιμη ημέρα. Κατάργηση συνδρομής με ένα κλικ. Δεν πουλάμε ή μοιραζόμαστε ποτέ τη διεύθυνσή σας.
Δοκιμάστε τον εαυτό σας
Άμεση ανάδραση σε κάθε απάντηση, και πιστοποιητικό με επαληθεύσιμο ID μόλις περάσετε το μάθημα.
Υποστηρίξτε τη δωρεάν εκπαίδευση AI. AI Understanding είναι μια μη κερδοσκοπική οργάνωση 501(c)(3) — χωρίς διαφημίσεις, χωρίς τοίχο πληρωμής, ποτέ. Κάντε μια δωρεά
The Conformer is a speech-recognition encoder architecture combining self-attention for global context with convolution for local patterns in an audio sequence.
Το Conformer συγχωνεύει τη συνέλιξη (για τοπικά μοτίβα) με την αυτοπροσοχή (για το παγκόσμιο πλαίσιο) μέσα σε κάθε μπλοκ.
Οι συνελίξεις υπερέχουν στα λεπτά τοπικά σημάδια που διακρίνουν τα φωνήματα, ενώ η αυτοπροσοχή μοντελοποιεί τις εξαρτήσεις σε ολόκληρη την εκφορά. Ο Conformer παίρνει και τα δύο.
Το Conformer τοποθετεί τις μονάδες αυτο-προσοχής και συνέλιξης μεταξύ δύο μονάδων τροφοδοσίας προς τα εμπρός, το καθένα από τα οποία εφαρμόζεται με ένα μισοσταθμισμένο υπόλοιπο.
Το Conformer παρουσιάστηκε από Google ερευνητές το 2020 και γρήγορα έγινε ένας τυπικός κωδικοποιητής αναγνώρισης ομιλίας.
Η μονάδα συνέλιξης αλυσιδώνει τη σημειακή συνέλιξη με μια περιφραγμένη γραμμική μονάδα, τη συνέλιξη κατά βάθος, την κανονικοποίηση παρτίδας και μια ενεργοποίηση Swish, που καταλήγει σε μια άλλη σημειακή μετατροπή.
Συνέχισε να μαθαίνεις
Επιλέχθηκαν περισσότεροι οδηγοί για αυτό το θέμα
ΕπόμενοΕπόμενος οδηγός
Αρχιτεκτονική DeepSpeech
Ήχος AI