Wav2Vec 2.0
Wav2Vec 2.0 jẹ Meta Awoṣe ọrọ asọye ti ara ẹni ti AI ti o kọ ẹkọ awọn aṣoju ohun afetigbọ ti o lagbara lati aise, awọn igbasilẹ ti ko ni aami.
Akopọ
It matters because it slashed the amount of transcribed audio needed to build accurate speech recognizers, unlocking ASR for low-resource languages.
Jin Dive
Ṣafihan nipasẹ Facebook (Meta) AI ni ọdun 2020, Wav2Vec 2.0 koju igo mojuto ni idamọ ọrọ: ohun afetigbọ ti ṣọwọn ati gbowolori, lakoko ti ohun aise jẹ lọpọlọpọ. Awoṣe naa kọkọ kọkọ ṣaju ẹgbẹẹgbẹrun awọn wakati ti ọrọ ti ko ni aami nipa kikọ ẹkọ lati kun awọn ipin ti o boju-boju ti ifihan naa, ṣiṣe agbero oye inu ti ọlọrọ ti igbekalẹ phonetic. Nikan lẹhinna o jẹ aifwy daradara lori iye kekere ti data ti a kọwe. Olokiki, pẹlu iṣẹju mẹwa 10 ti ohun afetigbọ pẹlu ikẹkọ iṣaaju-iwọn, o de awọn oṣuwọn aṣiṣe ọrọ ti o ṣee lo lori ala LibriSpeech. Ohunelo yii ṣe ijọba tiwantiwa ASR, ti o mu ki iwe-kikọ ti o tọ fun awọn ede ati awọn ede-ede ti ko ni iwe asọye nla.
Imọ-imọ-ẹrọ
Wav2Vec 2.0 n ṣe ifunni igbi igbi aise nipasẹ koodu ẹya-ara CNN pupọ-Layer, lẹhinna awọn iboju iparada ti awọn abajade wiwadi wiwaba. Ayipada kan n ka aaye ti o boju-boju ati pe o gbọdọ ṣe idanimọ aṣoju iwọn to pe ti apakan ti o boju-boju lati ṣeto awọn oluyapa, ni lilo ipadanu iyatọ. Iwe koodu koodu ti o kọ ẹkọ ṣe iyasọtọ ohun afetigbọ ti nlọ lọwọ sinu eto ipari ti awọn ẹyọ ọrọ, fifun iṣẹ-ṣiṣe itansan awọn ibi-afẹde asọye daradara lati ṣe asọtẹlẹ.
Ipa Ilana
Wiwọle ati arọwọto
O ṣe ilọsiwaju iraye si nipasẹ transcription, alaye, ati awọn atọkun ohun.
Iye owo ati isuna
Awọn ẹgbẹ Media le firanṣẹ ohun didan yiyara pẹlu awọn isuna-owo kekere.
Iyara ati iwọn
Awọn ọna ṣiṣe ti nkọju si alabara le ṣe ilana awọn ibaraẹnisọrọ sisọ ni iwọn nla.
Ojo iwaju ti Wav2Vec 2.0
Wav2Vec 2.0 ti ṣe irugbin gbogbo idile ti awọn awoṣe ọrọ ti ara ẹni abojuto ati XLS-R multilingual, eyiti o ni awọn ede 128. Ọna naa n ṣajọpọ si awọn koodu ifipamo gbogbo agbaye ti o gbe lọ si idanimọ, itumọ, iṣawari ẹdun, ati awọn iṣẹ-ṣiṣe agbọrọsọ lati ipilẹ ti a ti kọkọ tẹlẹ. Reti awọn anfani ti o tẹsiwaju fun awọn ede ti o wa ninu ewu ati awọn orisun orisun kekere, pẹlu idapọ ju ti awọn ẹya ohun afetigbọ ti ara ẹni ni abojuto sinu awọn ọna ṣiṣe multimodal ti o ṣe aroye lapapọ lori ọrọ, ọrọ, ati awọn ifihan agbara miiran.
Real-World imuse
Kọ awọn oludamọ ọrọ sisọ fun awọn ede orisun kekere pẹlu awọn iṣẹju nikan ti ohun afetigbọ
Ṣiṣe ikẹkọ koodu ohun afetigbọ gbogbo agbaye nigbamii ti o dara-aifwy fun transcription ipe foonu
Yiyọ ọrọ awọn ẹya ara ẹrọ fun imolara tabi agbọrọsọ-idamo awọn ọna šiše
Ṣiṣe agbara awoṣe XLS-R multilingual ti o ṣe igbasilẹ kọja awọn ede 100+
Awọn ewu & Awọn ọna iṣọ
ilokulo ohun ati awọn ewu afarawe ṣe pọ si nigbati igbanilaaye ba sonu.
Yiye le ju silẹ kọja awọn asẹnti, awọn ede-ede, tabi awọn agbegbe alariwo.
Ohun afetigbọ sintetiki le jẹ aṣiṣe fun ọrọ ododo laisi isamisi to yege.
Ilana Ilana imuse
Gba ifọkansi ti o fojuhan fun gbigba ohun, ti ẹda, ati ilotunlo.
Didara idanwo kọja awọn agbohunsoke oniruuru ati awọn ipo abẹlẹ.
Ṣetumo nigbati eniyan gbọdọ ṣe atunyẹwo tabi fọwọsi awọn abajade.
Aami ohun sintetiki ki o tọju awọn igbasilẹ provenance fun iṣiro.
Tesiwaju Ṣiṣawari
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Wav2Vec 2.0 quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Itọsọna atẹle
Awọn Vocoders nkankikan
Awọn ibeere ti a beere nigbagbogbo
What is Wav2Vec 2.0?
Wav2Vec 2.0 jẹ Meta Awoṣe ọrọ asọye ti ara ẹni ti AI ti o kọ ẹkọ awọn aṣoju ohun afetigbọ ti o lagbara lati aise, awọn igbasilẹ ti ko ni aami. O ṣe pataki nitori pe o dinku iye ohun afetigbọ ti o nilo lati kọ awọn idanimọ ọrọ deede, ṣiṣi ASR fun awọn ede orisun kekere.
Iṣoro koko wo ni idanimọ ọrọ jẹ Wav2Vec 2.0 ti a ṣe lati koju?
Wav2Vec 2.0 dinku igbẹkẹle lori ohun afetigbọ ti o niyelori nipasẹ ikẹkọ iṣaaju lori ọrọ ti ko ni aami lọpọlọpọ ni akọkọ.
Iru ibi-afẹde ẹkọ wo ni Wav2Vec 2.0 lo lakoko ikẹkọ iṣaaju?
O ṣe iboju boju-boju ti awọn olutọpa ohun afetigbọ ati pe o nlo ipadanu iyatọ lati mu ẹyọ iwọn to pe laarin awọn oluyapa.
Apakan wo ni akọkọ ṣe ilana igbi igbi aise ni Wav2Vec 2.0?
Akopọ ti awọn fẹlẹfẹlẹ convolutional n ṣe koodu iyipada igbi aise sinu awọn ẹya ara wiwa wiwakọ ṣaaju ki o to boju-boju ati Amunawa.
Bawo ni ohun afetigbọ kekere ti Wav2Vec 2.0 ṣe pataki lati de deede lilo lori LibriSpeech?
Pẹlu iṣaju iṣaju iwọn-nla pẹlu iṣẹju mẹwa 10 ti data ti aami, o ṣaṣeyọri iyalẹnu awọn oṣuwọn aṣiṣe ọrọ kekere, iṣafihan ṣiṣe ṣiṣe aami.
Kini ipa ti iwe koodu kọni ni Wav2Vec 2.0?
Iwe koodu naa ṣe iwọn awọn aṣoju lemọlemọfún sinu eto ipari ti awọn ẹya ọtọtọ, pese awọn ibi-afẹde fun ibi-afẹde iyatọ.