Lytt Delta og stave
Listen, Attend and Spell (LAS) er et landemerke fra 2015 nevralt nettverk som transkriberer tale direkte til tegn, uten håndbygd uttaleordbok eller egen språkmodell.
Oversikt
It showed that a single end-to-end model could do speech recognition.
Dypdykk
Listen, Attend and Spell, introdusert av Google-forskerne Chan, Jaitly, Le og Vinyals i 2015, var en av de første sanne ende-til-ende talegjenkjennere. Den har to deler: en 'Listener', en pyramideformet toveis LSTM som koder for lyden mens tidsdimensjonen krymper, og en 'Speller', en oppmerksomhetsbasert LSTM-dekoder som sender ut tegn om gangen. Oppmerksomhetsmekanismen lar Speller fokusere på det relevante lydstykket for hver utgangsbokstav. I motsetning til eldre HMM-DNN-rørledninger trenger LAS ingen fonemordbok, ingen tvungen justering og ingen separat trent språkmodell; den lærer staving, ordgrenser og akustikk i fellesskap fra transkribert lyd. Det inspirerte direkte moderne sekvens-til-sekvens og oppmerksomhetsbaserte ASR-systemer.
Teknisk innsikt
LAS kombinerer en koder-dekoder med oppmerksomhet. Den pyramideformede LSTM-koderen halverer tidsoppløsningen i hvert av tre lag, og kutter en lang akustisk sekvens i en håndterbar lengde slik at oppmerksomheten kan håndteres. Ved hvert dekodingstrinn beregner Speller oppmerksomhetsvekter over alle kodertilstander, blander dem inn i en kontekstvektor og forutsier neste tegn. Trening maksimerer sannsynligheten for riktig tegnsekvens; et triks med planlagt prøvetaking reduserer uoverensstemmelse mellom tog og test.
Strategisk innvirkning
Access and reach
Det forbedrer tilgjengeligheten gjennom transkripsjon, fortellerstemme og stemmegrensesnitt.
Cost and budget
Medieteam kan sende polert lyd raskere med mindre budsjetter.
Speed and scale
Kundevendte systemer kan behandle talte interaksjoner i større skala.
Fremtiden for lytte delta og stave
LAS er nå historisk, men dets DNA går gjennom alle moderne ASR-systemer. Dens oppmerksomhetsbaserte koder-dekoder-ideen utviklet seg til Transformer- og Conformer-gjenkjennere, mens relaterte tilnærminger som RNN-Transducer-diktering på enheten. Fremtidige systemer fortsetter denne ende-til-ende-banen, og kombinerer gjenkjennelse med oversettelse og forståelse i enkle flerspråklige modeller, og presser mot strømming, transkripsjon med lav latens som LAS, som ikke er strømming, opprinnelig ikke kunne tilby.
Real-World Implementering
Transkribere muntlig engelsk direkte til bokstaver uten en uttaleordbok
Fungerer som det konseptuelle grunnlaget for oppmerksomhetsbaserte stemmedikterings- og bildetekstsystemer
Demonstrere ende-til-ende-opplæring for akademisk talegjenkjenningskurs og benchmarks
Inspirerende sekvens-til-sekvens-modeller senere brukt i taleoversettelsesrørledninger
Risikoer og rekkverk
Risikoen for stemmemisbruk og etterligning øker når samtykke mangler.
Nøyaktigheten kan falle på tvers av aksenter, dialekter eller støyende omgivelser.
Syntetisk lyd kan forveksles med autentisk tale uten tydelig merking.
Veikart for implementering
Innhent eksplisitt samtykke for stemmefangst, kloning og gjenbruk.
Test kvalitet på tvers av forskjellige høyttalere og bakgrunnsforhold.
Definer når et menneske må gjennomgå eller godkjenne utdata.
Merk syntetisk lyd og oppbevar herkomstregistreringer for ansvarlighet.
Fortsett å utforske
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Listen Attend and Spell quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Neste guide
Automatisk merking av musikk
Ofte stilte spørsmål
What is Listen Attend and Spell?
Listen, Attend and Spell (LAS) er et landemerke fra 2015 nevralt nettverk som transkriberer tale direkte til tegn, uten håndbygd uttaleordbok eller egen språkmodell. Den viste at en enkelt ende-til-ende-modell kunne gjøre talegjenkjenning.
Hva er de to hovedkomponentene i LAS-modellen?
LAS består av en 'Listener'-koder som behandler lyden og en 'Speller' oppmerksomhetsbasert dekoder som sender ut tegn.
Hva gir Speller i LAS ut?
Stavemaskinen er en dekoder som produserer transkripsjonen tegn for tegn, og lærer rettskriving direkte.
Hvorfor kalles LAS-koderen 'pyramideformet'?
Hvert lag av den pyramideformede BLSTM halverer sekvenslengden, og forkorter den lange lydsekvensen slik at oppmerksomhet er beregningsmessig mulig.
Hvilken eldre komponent krever ikke LAS?
I motsetning til klassiske HMM-DNN-rørledninger, lærer LAS direkte fra lyd-til-tekst-par uten fonemordbok eller tvungen justering.
Hvilken mekanisme lar Speller fokusere på den relevante delen av lyden for hver karakter?
En oppmerksomhetsmekanisme beregner vekter over kodertilstander, og danner en kontekstvektor som dekoderen bruker ved hvert trinn.