HuBERT Ọrọ Abojuto Ara-ẹni
HuBERT (Hidden-Unit BERT) jẹ Meta Awoṣe ọrọ asọye ti ara ẹni ti AI ti o kọ ẹkọ nipa sisọ asọtẹlẹ awọn ẹya ohun afetigbọ fun awọn apakan ti o boju-boju, ara BERT.
Akopọ
It matters because its clustering-based targets often outperform earlier contrastive methods on recognition and downstream speech tasks.
Jin Dive
Tu silẹ nipasẹ Meta AI ni ọdun 2021, HuBERT ṣe atunṣe imọran asọtẹlẹ-boju-boju lẹhin BERT si ọrọ sisọ. Ipilẹṣẹ bọtini ni bii o ṣe ṣẹda awọn ibi-afẹde ikẹkọ: dipo iyatọ si awọn oluyapa bi Wav2Vec 2.0, HuBERT n ṣe igbesẹ iṣupọ aisinipo kan (k-tumosi) lori awọn ẹya ohun afetigbọ lati fi aaye kukuru kọọkan ni ami iyasọtọ 'ẹyọkan farasin' ọtọtọ. Awoṣe lẹhinna boju-boju awọn apakan ti ohun ohun ati kọ ẹkọ lati ṣe asọtẹlẹ awọn aami iṣupọ wọnyi fun awọn fireemu ti o farapamọ, n tọju ọrọ bi ọna ti awọn foonu pseudo-phonemes. Ni pataki, HuBERT n ṣe atunwo: o tun awọn iṣupọ nipa lilo awọn aṣoju imudara ti awoṣe tirẹ ati awọn idapada, ni ilọsiwaju ni didasilẹ awọn ẹya ibi-afẹde. Loop isọdọtun yii n mu awọn ẹya ti o lagbara ti o tayọ kọja ASR, agbọrọsọ, ati awọn ipilẹ ẹdun bii SUPERB.
Imọ-imọ-ẹrọ
Iwa didara HuBERT wa ni sisọ iran ibi-afẹde lati asọtẹlẹ. Iṣupọ awọn iterations ni kutukutu awọn ẹya MCCC ti o rọrun sinu awọn kilasi k-tumosi; nigbamii iterations iṣupọ awọn wiwaba fekito lati agbedemeji Amunawa fẹlẹfẹlẹ, eyi ti o kooduopo phonetic alaye. Nitoripe awoṣe nikan nilo lati ṣe asọtẹlẹ awọn ID iṣupọ ni awọn ipo ti o boju-boju, awọn ibi-afẹde duro ni ibamu paapaa ti iṣupọ ba jẹ alaipe, jẹ ki nẹtiwọọki kọ ẹkọ acoustic ti o nilari ati eto ede laisi eyikeyi awọn iwe afọwọkọ.
Ipa Ilana
Wiwọle ati arọwọto
O ṣe ilọsiwaju iraye si nipasẹ transcription, alaye, ati awọn atọkun ohun.
Iye owo ati isuna
Awọn ẹgbẹ Media le firanṣẹ ohun didan yiyara pẹlu awọn isuna-owo kekere.
Iyara ati iwọn
Awọn ọna ṣiṣe ti nkọju si alabara le ṣe ilana awọn ibaraẹnisọrọ sisọ ni iwọn nla.
Ọjọ iwaju ti Ọrọ Abojuto Ara-ẹni HuBERT
HuBERT di ipilẹ fun NLP ti ko ni ọrọ, pẹlu awọn awoṣe ede ti a sọ ti o ṣe agbejade ọrọ taara lati awọn ẹya ọtọtọ ti a kọ laisi ọrọ agbedemeji. Awọn ẹya ti o farapamọ jẹ ifunni kikọ ọrọ sisọ, iyipada ohun, ati awọn opo gigun ti itumọ ọrọ-si-ọrọ. Reti awọn ami iyasọtọ ti ara HuBERT lati ṣe atilẹyin kilasi ti ndagba ti awọn awoṣe ede ohun ti o tọju ọrọ ni ọna ti LLM ṣe tọju ọrọ, pẹlu ilọsiwaju-pollination agbelebu pẹlu awọn awoṣe multilingual ati multimodal ipile.
Real-World imuse
Ṣiṣejade awọn ami-ọrọ ọrọ ọtọtọ fun awọn awoṣe iran ti a sọ ni ede ti ko ni ọrọ
Pretraining lagbara ẹya ara ẹrọ extractors itanran-aifwy fun kekere-oluşewadi ASR
Iwakọ iyipada ohun ati itumọ ọrọ-si-ọrọ nipasẹ awọn ẹya ti a kọ ẹkọ
Ṣiṣẹ bi eegun ẹhin ti a fi aami si kọja SUPERB suite ti awọn iṣẹ-ṣiṣe ọrọ
Awọn ewu & Awọn ọna iṣọ
ilokulo ohun ati awọn ewu afarawe ṣe pọ si nigbati igbanilaaye ba sonu.
Yiye le ju silẹ kọja awọn asẹnti, awọn ede-ede, tabi awọn agbegbe alariwo.
Ohun afetigbọ sintetiki le jẹ aṣiṣe fun ọrọ ododo laisi isamisi to yege.
Ilana Ilana imuse
Gba ifọkansi ti o fojuhan fun gbigba ohun, ti ẹda, ati ilotunlo.
Didara idanwo kọja awọn agbohunsoke oniruuru ati awọn ipo abẹlẹ.
Ṣetumo nigbati eniyan gbọdọ ṣe atunyẹwo tabi fọwọsi awọn abajade.
Aami ohun sintetiki ki o tọju awọn igbasilẹ provenance fun iṣiro.
Tesiwaju Ṣiṣawari
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the HuBERT Self-Supervised Speech quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Itọsọna atẹle
Ẹkọ Abojuto Ara-ẹni
Awọn ibeere ti a beere nigbagbogbo
What is HuBERT Self-Supervised Speech?
HuBERT (Hidden-Unit BERT) jẹ Meta Awoṣe ọrọ asọye ti ara ẹni ti AI ti o kọ ẹkọ nipa sisọ asọtẹlẹ awọn ẹya ohun afetigbọ fun awọn apakan ti o boju-boju, ara BERT. O ṣe pataki nitori awọn ibi-afẹde ti o da lori iṣupọ rẹ nigbagbogbo ju awọn ọna iyatọ iṣaaju lọ lori idanimọ ati awọn iṣẹ-ṣiṣe ọrọ isale.
Bawo ni HuBERT ṣe ipilẹṣẹ awọn ibi-afẹde ti o gbiyanju lati ṣe asọtẹlẹ lakoko ikẹkọ?
Awọn iṣupọ HuBERT awọn ẹya fireemu ohun (nipasẹ k-tumosi) sinu awọn ẹya ti o farapamọ ọtọtọ ati asọtẹlẹ awọn aami iṣupọ wọnyẹn fun awọn fireemu ti o boju-boju.
Awoṣe ọrọ ti a mọ daradara wo ni o ṣe atilẹyin ero ikẹkọ asọtẹlẹ-boju ti HuBERT?
HuBERT (Ìpamọ-Ẹyọ BERT) ya àfojúsùn-ìsọtẹ́lẹ̀ BERT tí ó bò mọ́jú, ní fífi í sí àwọn ẹ̀ka ọ̀rọ̀ sísọ ọ̀tọ̀ọ̀tọ̀ dípò àwọn àmi ọrọ̀.
Bawo ni HuBERT ṣe ilọsiwaju awọn aami ibi-afẹde rẹ lori awọn aṣetunṣe ikẹkọ atẹle?
HuBERT ni atunbere: awọn iyipo nigbamii ṣajọpọ awọn ẹya wiwakọ ti o ni oro sii lati awọn fẹlẹfẹlẹ ti ara awoṣe, ti o pọ si awọn ibi-afẹde-phoneme.
Awọn ẹya wo ni a kojọpọ ni igbagbogbo ni aṣetunṣe akọkọ ti HuBERT?
Awọn iṣupọ aṣetunṣe akọkọ awọn ẹya MCCC ipilẹ; nigbamii iterations lo ni oro Transformer-Layer asoju.
Kini idi ti HuBERT le kọ ẹkọ eto ti o wulo paapaa nigbati iṣupọ rẹ jẹ alaipe?
Nitoripe ibi-afẹde naa kan jẹ asọtẹlẹ awọn ID iṣupọ ti a yàn fun awọn fireemu ti o boju-boju, iṣẹ-ṣiṣe naa wa ni ẹkọ ati ni ibamu pelu awọn iṣupọ ariwo.