Akopọ
HuBERT (Hidden-Unit BERT) jẹ Meta Awoṣe ọrọ asọye ti ara ẹni ti AI ti o kọ ẹkọ nipa sisọ asọtẹlẹ awọn ẹya ohun afetigbọ fun awọn apakan ti o boju-boju, ara BERT. O ṣe pataki nitori awọn ibi-afẹde ti o da lori iṣupọ rẹ nigbagbogbo ju awọn ọna iyatọ iṣaaju lọ lori idanimọ ati awọn iṣẹ-ṣiṣe ọrọ isale.
Ọrọ Abojuto Ara-ẹni HuBERT joko ni awọn ṣiṣan iṣẹ ohun-AI ti o yi ọrọ, orin, ati ohun pada fun ibaraẹnisọrọ, iraye si, ati iṣelọpọ media.
Jin Dive
Tu silẹ nipasẹ Meta AI ni ọdun 2021, HuBERT ṣe atunṣe imọran asọtẹlẹ-boju-boju lẹhin BERT si ọrọ sisọ. Ipilẹṣẹ bọtini ni bii o ṣe ṣẹda awọn ibi-afẹde ikẹkọ: dipo iyatọ si awọn oluyapa bi Wav2Vec 2.0, HuBERT n ṣe igbesẹ iṣupọ aisinipo kan (k-tumosi) lori awọn ẹya ohun afetigbọ lati fi aaye kukuru kọọkan ni ami iyasọtọ 'ẹyọkan farasin' ọtọtọ. Awoṣe lẹhinna boju-boju awọn apakan ti ohun ohun ati kọ ẹkọ lati ṣe asọtẹlẹ awọn aami iṣupọ wọnyi fun awọn fireemu ti o farapamọ, n tọju ọrọ bi ọna ti awọn foonu pseudo-phonemes. Ni pataki, HuBERT n ṣe atunwo: o tun awọn iṣupọ nipa lilo awọn aṣoju imudara ti awoṣe tirẹ ati awọn idapada, ni ilọsiwaju ni didasilẹ awọn ẹya ibi-afẹde. Loop isọdọtun yii n mu awọn ẹya ti o lagbara ti o tayọ kọja ASR, agbọrọsọ, ati awọn ipilẹ ẹdun bii SUPERB.
Imọ-imọ-ẹrọ
Iwa didara HuBERT wa ni sisọ iran ibi-afẹde lati asọtẹlẹ. Iṣupọ iterations ni kutukutu awọn ẹya MCCC ti o rọrun sinu awọn kilasi k-tumosi; nigbamii iterations iṣupọ awọn wiwaba fekito lati agbedemeji Amunawa fẹlẹfẹlẹ, eyi ti o kooduopo phonetic alaye. Nitoripe awoṣe nikan nilo lati ṣe asọtẹlẹ awọn ID iṣupọ ni awọn ipo ti o boju-boju, awọn ibi-afẹde duro ni ibamu paapaa ti iṣupọ ba jẹ alaipe, jẹ ki nẹtiwọọki kọ ẹkọ acoustic ti o nilari ati eto ede laisi eyikeyi awọn iwe afọwọkọ.
Titunto si HuBERT Ọrọ Abojuto Ara-ẹni
HuBERT (Hidden-Unit BERT) jẹ Meta Awoṣe ọrọ asọye ti ara ẹni ti AI ti o kọ ẹkọ nipa sisọ asọtẹlẹ awọn ẹya ohun afetigbọ fun awọn apakan ti o boju-boju, ara BERT. O ṣe pataki nitori awọn ibi-afẹde ti o da lori iṣupọ rẹ nigbagbogbo ju awọn ọna iyatọ iṣaaju lọ lori idanimọ ati awọn iṣẹ-ṣiṣe ọrọ isale. Ọrọ Abojuto Ara-ẹni HuBERT joko ni awọn ṣiṣan iṣẹ ohun-AI ti o yi ọrọ, orin, ati ohun pada fun ibaraẹnisọrọ, iraye si, ati iṣelọpọ media. Lati kọ oye ti o jinlẹ, ṣe itọju Ọrọ Abojuto Ara-ẹni HuBERT bi awoṣe iṣẹ, kii ṣe ẹya ẹyọkan: ṣalaye awọn abajade ti o fẹ, ṣe alaye awọn arosọ, ati ya sọtọ ohun ti eto le ṣe ni igbẹkẹle lati ohun ti o tun nilo idajọ amoye.
Ni iṣe, awọn ẹgbẹ ti o lagbara ti nlo HuBERT Ọrọ Abojuto Ara-ẹni ṣe itọju didara, lairi, ati igbanilaaye gẹgẹbi awọn ẹya pataki kanna ti ilana imuṣiṣẹ. Wọn ṣe akọsilẹ awọn ibeere aṣeyọri ti o fojuhan, idanwo lodi si data ojulowo ati ṣiṣan iṣẹ, ati atunbere ti o da lori awọn ilana ikuna ti a ṣakiyesi dipo awọn bori ala-akoko kan. Eyi ni ibiti oye imọ-jinlẹ yipada si agbara ti o tọ kọja ọja, eto imulo, ati awọn iṣẹ ṣiṣe.
O ṣe ilọsiwaju iraye si nipasẹ transcription, alaye, ati awọn atọkun ohun. Ni akoko kanna, ilokulo ohun ati awọn eewu imisi eniyan n pọ si nigbati igbanilaaye ba sonu. Ọna resilient julọ julọ ni lati darapọ iyara idanwo pẹlu ibawi ijọba: ṣiṣe awọn awakọ awakọ, mu ẹri mu, ṣe atẹjade awọn iwe ipinnu, ati imudojuiwọn awọn aabo nigbagbogbo bi ihuwasi awoṣe, awọn ireti olumulo, ati awọn ibeere ilana ti dagbasoke.
Ipa Ilana
O ṣe ilọsiwaju iraye si nipasẹ transcription, alaye, ati awọn atọkun ohun.
O ṣe ilọsiwaju iraye si nipasẹ transcription, alaye, ati awọn atọkun ohun. Ni awọn imuṣiṣẹ ti o ni agbara giga, eyi ni a tumọ si awọn ofin iṣiṣẹ wiwọn, awọn aala nini, ati awọn ilana atunyẹwo loorekoore ki awọn ẹgbẹ le ṣe iwọn igbẹkẹle dipo iwọn aibikita.
Awọn ẹgbẹ Media le firanṣẹ ohun didan yiyara pẹlu awọn isuna-owo kekere.
Awọn ẹgbẹ Media le firanṣẹ ohun didan yiyara pẹlu awọn isuna-owo kekere. Ni awọn imuṣiṣẹ ti o ni agbara giga, eyi ni a tumọ si awọn ofin iṣiṣẹ wiwọn, awọn aala nini, ati awọn ilana atunyẹwo loorekoore ki awọn ẹgbẹ le ṣe iwọn igbẹkẹle dipo iwọn aibikita.
Awọn ọna ṣiṣe ti nkọju si alabara le ṣe ilana awọn ibaraẹnisọrọ sisọ ni iwọn nla.
Awọn ọna ṣiṣe ti nkọju si alabara le ṣe ilana awọn ibaraẹnisọrọ sisọ ni iwọn nla. Ni awọn imuṣiṣẹ ti o ni agbara giga, eyi ni a tumọ si awọn ofin iṣiṣẹ wiwọn, awọn aala nini, ati awọn ilana atunyẹwo loorekoore ki awọn ẹgbẹ le ṣe iwọn igbẹkẹle dipo iwọn aibikita.
Real-World imuse
Ṣiṣejade awọn ami-ọrọ ọrọ ọtọtọ fun awọn awoṣe iran ti a sọ ni ede ti ko ni ọrọ
Pretraining lagbara ẹya ara ẹrọ extractors itanran-aifwy fun kekere-oluşewadi ASR
Iwakọ iyipada ohun ati itumọ ọrọ-si-ọrọ nipasẹ awọn ẹya ti a kọ ẹkọ
Ṣiṣẹ bi eegun ẹhin ti a fi aami si kọja SUPERB suite ti awọn iṣẹ-ṣiṣe ọrọ
Awọn Ilana imuse
HuBERT Ọrọ Abojuto Ara-ẹni ni iṣe
Ṣiṣejade awọn ami-ọrọ ọrọ ọtọtọ fun awọn awoṣe iran ti a sọ ni ede ti ko ni ọrọ.
Ṣiṣejade awọn ami-ọrọ ọrọ ọtọtọ fun awọn awoṣe iran ti ede sisọ ọrọ ti ko ni ọrọ Awọn ẹgbẹ nigbagbogbo gba awọn abajade to dara julọ nigbati wọn ṣalaye awọn ilodi didara ni iwaju, tọju ọna igbega eniyan fun awọn ọran eti, ati tọpa awọn anfani iṣelọpọ mejeeji ati awọn idiyele aṣiṣe lori akoko.
HuBERT Ọrọ Abojuto Ara-ẹni ni iṣe
Pretraining lagbara ẹya ara ẹrọ extractors itanran-aifwy fun kekere-oluşewadi ASR.
Pretraining lagbara ẹya-ara extractors itanran-aifwy fun kekere-oluşewadi Ẹgbẹ ASR maa n gba dara awọn iyọrisi nigba ti won setumo didara ala ni iwaju, pa a eda eniyan escalation ona fun eti igba, ki o si orin mejeeji ise sise anfani ati ašiše lori akoko.
HuBERT Ọrọ Abojuto Ara-ẹni ni iṣe
Iwakọ iyipada ohun ati itumọ ọrọ-si-ọrọ nipasẹ awọn ẹya ti a kọ ẹkọ.
Iyipada ohun wiwakọ ati itumọ-ọrọ-si-ọrọ nipasẹ awọn ẹka ikẹkọ Awọn ẹgbẹ nigbagbogbo gba awọn abajade to dara julọ nigbati wọn ṣalaye awọn ilodi didara ni iwaju, tọju ọna igbega eniyan fun awọn ọran eti, ati tọpa awọn anfani iṣelọpọ mejeeji ati awọn idiyele aṣiṣe lori akoko.
HuBERT Ọrọ Abojuto Ara-ẹni ni iṣe
Ṣiṣẹ bi eegun ẹhin ti a fi aami si kọja SUPERB suite ti awọn iṣẹ-ṣiṣe ọrọ.
Ṣiṣẹ bi eegun ẹhin ti o wa ni isamisi laarin SUPERB suite ti awọn iṣẹ-ṣiṣe ọrọ Awọn ẹgbẹ nigbagbogbo gba awọn abajade to dara julọ nigbati wọn ṣalaye awọn ilodi didara ni iwaju, tọju ọna igbega eniyan fun awọn ọran eti, ati tọpa awọn anfani iṣelọpọ mejeeji ati awọn idiyele aṣiṣe lori akoko.
Awọn ewu & Awọn ọna iṣọ
ilokulo ohun ati awọn ewu afarawe ṣe pọ si nigbati igbanilaaye ba sonu.
Yiye le ju silẹ kọja awọn asẹnti, awọn ede-ede, tabi awọn agbegbe alariwo.
Ohun afetigbọ sintetiki le jẹ aṣiṣe fun ọrọ ododo laisi isamisi to yege.
Ilana Ilana imuse
Gba ifọkansi ti o fojuhan fun gbigba ohun, ti ẹda, ati ilotunlo.
Gba ifọkansi ti o fojuhan fun gbigba ohun, ti ẹda, ati ilotunlo. Ṣe itọju igbesẹ kọọkan bi ẹnu-ọna ẹri: ti awọn ibeere ko ba ni ibamu, daduro yiyọ kuro, pa aafo naa, ati lẹhinna faagun lilo.
Didara idanwo kọja awọn agbohunsoke oniruuru ati awọn ipo abẹlẹ.
Didara idanwo kọja awọn agbohunsoke oniruuru ati awọn ipo abẹlẹ. Ṣe itọju igbesẹ kọọkan bi ẹnu-ọna ẹri: ti awọn ibeere ko ba ni ibamu, daduro yiyọ kuro, pa aafo naa, ati lẹhinna faagun lilo.
Ṣetumo nigbati eniyan gbọdọ ṣe atunyẹwo tabi fọwọsi awọn abajade.
Ṣetumo nigbati eniyan gbọdọ ṣe atunyẹwo tabi fọwọsi awọn abajade. Ṣe itọju igbesẹ kọọkan bi ẹnu-ọna ẹri: ti awọn ibeere ko ba ni ibamu, daduro yiyọ kuro, pa aafo naa, ati lẹhinna faagun lilo.
Aami ohun sintetiki ki o tọju awọn igbasilẹ provenance fun iṣiro.
Aami ohun sintetiki ki o tọju awọn igbasilẹ provenance fun iṣiro. Ṣe itọju igbesẹ kọọkan bi ẹnu-ọna ẹri: ti awọn ibeere ko ba ni ibamu, daduro yiyọ kuro, pa aafo naa, ati lẹhinna faagun lilo.