Écouter, assister et épeler
Listen, Attend and Spell (LAS) est un réseau neuronal historique de 2015 qui transcrit la parole directement en caractères, sans dictionnaire de prononciation construit à la main ni modèle de langage séparé.
Aperçu
It showed that a single end-to-end model could do speech recognition.
Plongée profonde
Listen, Attend and Spell, introduit par les chercheurs de Google Chan, Jaitly, Le et Vinyals en 2015, a été l'un des premiers véritables outils de reconnaissance vocale de bout en bout. Il comporte deux parties : un « Listener », un LSTM bidirectionnel pyramidal qui encode l'audio tout en réduisant la dimension temporelle, et un « Speller », un décodeur LSTM basé sur l'attention qui émet des caractères un par un. Le mécanisme d'attention permet au Speller de se concentrer sur la tranche audio pertinente pour chaque lettre de sortie. Contrairement aux anciens pipelines HMM-DNN, LAS n'a besoin d'aucun dictionnaire de phonèmes, d'aucun alignement forcé et d'aucun modèle de langage formé séparément ; il apprend conjointement l’orthographe, les limites des mots et l’acoustique à partir de l’audio transcrit. Il a directement inspiré les systèmes ASR modernes séquence à séquence et basés sur l’attention.
Aperçu technique
LAS combine un encodeur-décodeur avec attention. L'encodeur pyramidal LSTM réduit de moitié la résolution temporelle à chacune des trois couches, coupant une longue séquence acoustique en une longueur gérable afin que l'attention soit facile à gérer. À chaque étape de décodage, le Speller calcule les pondérations d'attention sur tous les états du codeur, les mélange dans un vecteur de contexte et prédit le caractère suivant. La formation maximise la probabilité d'obtenir la séquence de caractères correcte ; une astuce d'échantillonnage programmé réduit l'inadéquation train/test.
Impact stratégique
Accès et portée
Il améliore l'accessibilité grâce à la transcription, à la narration et aux interfaces vocales.
Coût et budget
Les équipes médias peuvent produire un son de qualité plus rapidement avec des budgets plus réduits.
Vitesse et échelle
Les systèmes orientés client peuvent traiter les interactions orales à plus grande échelle.
L'avenir de l'écoute, de l'assistance et de l'orthographe
Le LAS est désormais historique, mais son ADN se retrouve dans tous les systèmes ASR modernes. Son idée d'encodeur-décodeur basée sur l'attention a évolué vers les outils de reconnaissance Transformer et Conformer, tandis que des approches connexes telles que la dictée RNN-Transducer sont mises sous tension sur l'appareil. Les futurs systèmes poursuivent cette trajectoire de bout en bout, fusionnant la reconnaissance avec la traduction et la compréhension dans des modèles multilingues uniques, et poussant vers une transcription en streaming à faible latence que LAS, n'étant pas en streaming, ne pouvait pas fournir à l'origine.
Mise en œuvre dans le monde réel
Transcrire l'anglais parlé directement en lettres sans dictionnaire de prononciation
Servir de base conceptuelle aux systèmes de dictée vocale et de sous-titrage basés sur l'attention
Démontrer une formation de bout en bout pour les cours et les tests de reconnaissance vocale académiques
Des modèles séquence à séquence inspirants utilisés plus tard dans les pipelines de traduction vocale
Risques et garde-fous
Les risques d’utilisation abusive de la voix et d’usurpation d’identité augmentent lorsque le consentement fait défaut.
La précision peut chuter en fonction des accents, des dialectes ou des environnements bruyants.
L’audio synthétique peut être confondu avec une parole authentique sans étiquetage clair.
Feuille de route de mise en œuvre
Obtenez un consentement explicite pour la capture vocale, le clonage et la réutilisation.
Testez la qualité sur divers locuteurs et conditions d’arrière-plan.
Définissez quand un humain doit examiner ou approuver les résultats.
Étiquetez l’audio synthétique et conservez des enregistrements de provenance pour des raisons de responsabilité.
Continuez à explorer
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Listen Attend and Spell quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Guide suivant
Marquage automatique de la musique
Questions fréquemment posées
What is Listen Attend and Spell?
Listen, Attend and Spell (LAS) est un réseau neuronal historique de 2015 qui transcrit la parole directement en caractères, sans dictionnaire de prononciation construit à la main ni modèle de langage séparé. Il a montré qu’un seul modèle de bout en bout pouvait assurer la reconnaissance vocale.
Quelles sont les deux principales composantes du modèle LAS ?
LAS se compose d'un encodeur « Listener » qui traite l'audio et d'un décodeur basé sur l'attention « Speller » qui émet des caractères.
Que produit le Speller dans LAS ?
Le Speller est un décodeur qui produit la transcription caractère par caractère, apprenant directement l'orthographe.
Pourquoi l'encodeur LAS est-il appelé « pyramidal » ?
Chaque couche du BLSTM pyramidal réduit de moitié la longueur de la séquence, raccourcissant ainsi la longue séquence audio afin que l'attention soit réalisable par le calcul.
De quel composant plus ancien LAS n'a-t-il PAS besoin notamment ?
Contrairement aux pipelines HMM-DNN classiques, LAS apprend directement à partir de paires audio-texte, sans dictionnaire de phonèmes ni alignement forcé.
Quel mécanisme permet au Speller de se concentrer sur la partie pertinente de l’audio pour chaque personnage ?
Un mécanisme d'attention calcule les pondérations sur les états du codeur, formant un vecteur de contexte que le décodeur utilise à chaque étape.