Luister, bezoek en spel
Listen, Attend and Spell (LAS) is een historisch neuraal netwerk uit 2015 dat spraak rechtstreeks in karakters transcribeert, zonder een handgebouwd uitspraakwoordenboek of een apart taalmodel.
Overzicht
It showed that a single end-to-end model could do speech recognition.
Diepe duik
Listen, Attend and Spell, geïntroduceerd door Google onderzoekers Chan, Jaitly, Le en Vinyals in 2015, was een van de eerste echte end-to-end spraakherkenners. Het bestaat uit twee delen: een 'Listener', een piramidevormige bidirectionele LSTM die de audio codeert terwijl de tijdsdimensie wordt verkleind, en een 'Speller', een op aandacht gebaseerde LSTM-decoder die karakters één voor één uitzendt. Dankzij het aandachtsmechanisme kan de Speller zich voor elke uitvoerletter concentreren op het relevante stukje audio. In tegenstelling tot oudere HMM-DNN-pijplijnen heeft LAS geen foneemwoordenboek, geen gedwongen uitlijning en geen afzonderlijk getraind taalmodel nodig; het leert spelling, woordgrenzen en akoestiek gezamenlijk uit getranscribeerde audio. Het inspireerde rechtstreeks moderne reeks-tot-reeks en op aandacht gebaseerde ASR-systemen.
Technisch inzicht
LAS combineert een encoder-decoder met aandacht. De piramidale LSTM-encoder halveert de tijdresolutie op elk van de drie lagen, waardoor een lange akoestische reeks in een beheersbare lengte wordt geknipt, zodat de aandacht handelbaar is. Bij elke decoderingsstap berekent de Speller het aandachtsgewicht over alle encoderstatussen, voegt deze samen in een contextvector en voorspelt het volgende teken. Training maximaliseert de waarschijnlijkheid van de juiste tekenreeks; een geplande bemonsteringstruc vermindert de mismatch tussen trein en test.
Strategische impact
Access and reach
Het verbetert de toegankelijkheid via transcriptie, gesproken tekst en spraakinterfaces.
Cost and budget
Mediateams kunnen met kleinere budgetten sneller gepolijste audio leveren.
Speed and scale
Klantgerichte systemen kunnen gesproken interacties op grotere schaal verwerken.
De toekomst van luisteren, aanwezig zijn en spellen
LAS is inmiddels historisch, maar het DNA ervan loopt door in elk modern ASR-systeem. Het op aandacht gebaseerde encoder-decoder-idee evolueerde naar Transformer- en Conformer-herkenners, terwijl verwante benaderingen zoals RNN-Transducer het dicteren op het apparaat mogelijk maakten. Toekomstige systemen zetten dit end-to-end traject voort, waarbij herkenning wordt gecombineerd met vertaling en begrip in afzonderlijke meertalige modellen, en wordt gestreefd naar streaming, transcriptie met lage latentie die LAS, omdat het niet-streaming is, oorspronkelijk niet kon bieden.
Implementatie in de echte wereld
Gesproken Engels rechtstreeks in letters omzetten zonder uitspraakwoordenboek
Dient als de conceptuele basis voor op aandacht gebaseerde stemdictatie- en ondertitelingssystemen
Het demonstreren van end-to-end training voor academische cursussen en benchmarks op het gebied van spraakherkenning
Inspirerende reeks-tot-reeksmodellen die later werden gebruikt in pijplijnen voor spraakvertaling
Risico's en vangrails
Het risico op stemmisbruik en imitatie neemt toe als de toestemming ontbreekt.
De nauwkeurigheid kan afnemen bij accenten, dialecten of luidruchtige omgevingen.
Synthetische audio kan worden aangezien voor authentieke spraak zonder duidelijke labels.
Implementatie routekaart
Verkrijg expliciete toestemming voor het vastleggen, klonen en hergebruiken van spraak.
Test de kwaliteit van diverse sprekers en achtergrondomstandigheden.
Bepaal wanneer een mens de output moet beoordelen of goedkeuren.
Label synthetische audio en houd de herkomstgegevens bij voor verantwoording.
Blijf verkennen
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Listen Attend and Spell quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Next guide
Autotagging van muziek
Frequently asked questions
What is Listen Attend and Spell?
Listen, Attend and Spell (LAS) is een historisch neuraal netwerk uit 2015 dat spraak rechtstreeks in karakters transcribeert, zonder een handgebouwd uitspraakwoordenboek of een apart taalmodel. Het toonde aan dat één enkel end-to-end-model spraakherkenning kon uitvoeren.
Wat zijn de twee belangrijkste componenten van het LAS-model?
LAS bestaat uit een ‘Listener’-encoder die de audio verwerkt en een ‘Speller’-aandachtsgebaseerde decoder die karakters uitzendt.
Wat levert de Speller in LAS op?
De Speller is een decoder die de transcriptie teken voor teken produceert, waardoor de spelling direct wordt geleerd.
Waarom wordt de LAS-encoder 'piramidale' genoemd?
Elke laag van de piramidale BLSTM halveert de sequentielengte, waardoor de lange audiosequentie wordt verkort, zodat aandacht rekenkundig haalbaar is.
Welk oudere onderdeel heeft LAS met name NIET nodig?
In tegenstelling tot klassieke HMM-DNN-pijplijnen leert LAS rechtstreeks van audio-naar-tekstparen zonder foneemwoordenboek of geforceerde uitlijning.
Welk mechanisme zorgt ervoor dat de Speller zich kan concentreren op het relevante deel van de audio voor elk personage?
Een aandachtsmechanisme berekent de gewichten van de encoderstatussen en vormt een contextvector die de decoder bij elke stap gebruikt.