VALL-E ati Awọn awoṣe Ede Kodẹki
VALL-E ṣe atunṣe ọrọ-si-ọrọ gẹgẹbi iṣoro awoṣe ede lori awọn ami koodu kodẹki ohun, ti o mu ki ẹda ohun mu ṣiṣẹ lati iṣẹju-aaya mẹta ti apẹẹrẹ kan.
Akopọ
O fihan pe asọtẹlẹ atẹle kanna ti o ni agbara awọn LLM ọrọ le ṣe agbekalẹ adayeba iyalẹnu, ọrọ ti o ṣalaye.
Jin Dive
Ti a kede nipasẹ Microsoft ni ibẹrẹ ọdun 2023, VALL-E ṣe itọju isọdọkan ọrọ bi iṣatunṣe ede. Dipo asọtẹlẹ spectrogram kan, o sọ asọtẹlẹ awọn ami akositiki oloye ti kodẹki nkankikan (EnCodec), nitorinaa iran di asọtẹlẹ-ami atẹle lori awọn fokabulari ohun ohun. Fun gbigbasilẹ 3-keji ti agbọrọsọ ti a ko rii pẹlu ọrọ ibi-afẹde, VALL-E tẹsiwaju ninu ohun agbọrọsọ yẹn, titọju timbre ati paapaa agbegbe akositiki. O ti gba ikẹkọ ni aijọju awọn wakati 60,000 ti ọrọ, lọpọlọpọ diẹ sii ju awọn iwe data TTS aṣoju lọ, eyiti o fun ni cloning odo-shot lagbara. Nitoripe awọn ami koodu kodẹki ti wa ni siwa (nipasẹ RVQ), VALL-E nlo awọn ipele meji: awoṣe autoregressive kan sọ asọtẹlẹ akọkọ, ṣiṣan tokini isokuso ti o ni iloniniye lori tọ, ati awoṣe ti kii ṣe autoregressive kun awọn ami alaye ti o ku. Ohunelo codec-LM yii ṣe atilẹyin awọn aṣeyọri bi VALL-E 2 ati ọpọlọpọ awọn awoṣe ipilẹ ọrọ.
Imọ-imọ-ẹrọ
Ẹtan naa ni iyipada arabara lori awọn ami kodẹki logalomomoise. Ipele autoregressive ṣe asọtẹlẹ awọn ami ami koodu akọkọ ti o ṣe pataki julọ ọkan ni akoko kan, yiya prosody ati akoonu. Awọn iwe koodu to ku, eyiti o ṣafikun awọn alaye akositiki ti o dara, jẹ asọtẹlẹ ni afiwe nipasẹ awoṣe ti kii ṣe autoregressive ti o ni ilodi si ṣiṣan akọkọ ati iyara agbọrọsọ. Pipin yii n tọju didara ga lakoko ti o yago fun idiyele ti ipilẹṣẹ gbogbo ami ami lẹsẹsẹ, ati lilo koodu kodẹki tumọ si ọrọ ati ọrọ le jẹ apẹrẹ pẹlu ẹrọ oluyipada kanna.
Ipa Ilana
Wiwọle ati arọwọto
O ṣe ilọsiwaju iraye si nipasẹ transcription, alaye, ati awọn atọkun ohun.
Iye owo ati isuna
Awọn ẹgbẹ Media le firanṣẹ ohun didan yiyara pẹlu awọn isuna-owo kekere.
Iyara ati iwọn
Awọn ọna ṣiṣe ti nkọju si alabara le ṣe ilana awọn ibaraẹnisọrọ sisọ ni iwọn nla.
Ọjọ iwaju ti VALL-E ati Awọn awoṣe Ede Kodẹki
Awọn awoṣe ede kodẹki n dapọ ọrọ pọ pẹlu awọn awoṣe ede nla, n tọka si awọn ọna ṣiṣe isokan ti o gbọ, ironu, ati sọrọ ni awoṣe kan. Reti iduroṣinṣin to dara julọ ati awọn ohun-ọṣọ diẹ, iran ṣiṣanwọle akoko gidi, ati iṣakoso tighter lori imolara ati ara. cloning ti o lagbara kanna ti o jẹ ki VALL-E wulo fun iraye si ati atunkọ tun ṣe jijẹ jijinlẹ ati awọn ifiyesi ifọkanbalẹ, nitorinaa isamisi omi, awọn aabo-ẹri ohun, ati awọn iṣọṣọ eto imulo ti di apakan aringbungbun ti bii awọn eto wọnyi ṣe gbe lọ.
Real-World imuse
Dida ohun kan lati iṣẹju-aaya diẹ ti ohun fun awọn oluranlọwọ ti ara ẹni tabi awọn irinṣẹ iraye si ti o mu ohun ti o sọnu padabọsipo
Sisọ agbegbe ati atunkọ fidio sinu awọn ede miiran lakoko titọju timbre agbọrọsọ atilẹba
Ṣiṣẹda ikosile, alaye ibaramu-ọrọ ti o ṣe itọju agbegbe akositiki gbigbasilẹ kan
Ṣiṣẹ bi egungun ẹhin ọrọ ni awọn oluranlọwọ multimodal ti o loye mejeeji ati ṣe agbejade ohun ti a sọ
Awọn ewu & Awọn ọna iṣọ
ilokulo ohun ati awọn ewu afarawe ṣe pọ si nigbati igbanilaaye ba sonu.
Yiye le ju silẹ kọja awọn asẹnti, awọn ede-ede, tabi awọn agbegbe alariwo.
Ohun afetigbọ sintetiki le jẹ aṣiṣe fun ọrọ ododo laisi isamisi to yege.
Ilana Ilana imuse
Gba ifọkansi ti o fojuhan fun gbigba ohun, ti ẹda, ati ilotunlo.
Didara idanwo kọja awọn agbohunsoke oniruuru ati awọn ipo abẹlẹ.
Ṣetumo nigbati eniyan gbọdọ ṣe atunyẹwo tabi fọwọsi awọn abajade.
Aami ohun sintetiki ki o tọju awọn igbasilẹ provenance fun iṣiro.
Tesiwaju Ṣiṣawari
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the VALL-E and Codec Language Models quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Itọsọna atẹle
Awọn Agbara pajawiri ti Awọn awoṣe Ede nla
Awọn ibeere ti a beere nigbagbogbo
Kini VALL-E ati Codec Language Models?
VALL-E ṣe atunṣe ọrọ-si-ọrọ gẹgẹbi iṣoro awoṣe ede lori awọn ami koodu kodẹki ohun, ti o mu ki ẹda ohun mu ṣiṣẹ lati iṣẹju-aaya mẹta ti apẹẹrẹ kan. O fihan pe asọtẹlẹ atẹle-aami kanna ti o nfi ọrọ agbara agbara le ṣe ipilẹṣẹ iyalẹnu adayeba, ọrọ asọye.
Ero pataki wo ni o ṣe iyatọ VALL-E lati awọn eto ọrọ-si-ọrọ iṣaaju?
VALL-E tun ṣe atunṣe TTS gẹgẹbi asọtẹlẹ ami atẹle lori awọn ami kodẹki ohun afetigbọ, ṣiṣe itọju iran ọrọ bi awoṣe ede.
Elo ohun afetigbọ itọkasi VALL-E nilo lati ṣe oniye ohun agbọrọsọ tuntun kan?
VALL-E le ṣe isọdọtun ohun-shot lati inu apẹẹrẹ aijọju 3-aaya ti agbọrọsọ ti a ko rii.
Kodẹki nkankikan wo ni VALL-E lo lati ṣe agbejade awọn ami ohun afetigbọ rẹ?
VALL-E ṣe agbero lori Meta's EnCodec, ṣe asọtẹlẹ awọn ami akositiki ọtọtọ rẹ lati ṣajọpọ ọrọ sisọ.
Kini idi ti VALL-E lo mejeeji autoregressive ati ipele ti kii ṣe adaṣe?
Awọn ami kodẹki jẹ akosori nipasẹ RVQ; VALL-E ṣe asọtẹlẹ ṣiṣan isokuso akọkọ laifọwọyi ati awọn ami alaye ti o ku ni afiwe fun ṣiṣe.
Ni aijọju bawo ni data ọrọ ọrọ VALL-E ṣe ikẹkọ lori, ti o mu ki ẹda oniye-shot odo lagbara?
VALL-E ni ikẹkọ ni aijọju awọn wakati 60,000 ti ọrọ, ti o jinna pupọ ju awọn ipilẹ data TTS aṣoju lọ, eyiti o ṣe alekun gbogbogbo-shot rẹ.