Akopọ
VALL-E ṣe atunṣe ọrọ-si-ọrọ gẹgẹbi iṣoro awoṣe ede lori awọn ami koodu kodẹki ohun, ti o mu ki ẹda ohun mu ṣiṣẹ lati iṣẹju-aaya mẹta ti apẹẹrẹ kan. O fihan pe asọtẹlẹ atẹle-aami kanna ti o nfi ọrọ agbara agbara le ṣe ipilẹṣẹ iyalẹnu adayeba, ọrọ asọye.
VALL-E ati Awọn awoṣe Ede Codec joko ni awọn ṣiṣan iṣẹ ohun-AI ti o yi ọrọ, orin, ati ohun pada fun ibaraẹnisọrọ, iraye si, ati iṣelọpọ media.
Jin Dive
Ti a kede nipasẹ Microsoft ni ibẹrẹ ọdun 2023, VALL-E ṣe itọju isọdọkan ọrọ bi iṣatunṣe ede. Dipo asọtẹlẹ spectrogram kan, o sọ asọtẹlẹ awọn ami akositiki oloye ti kodẹki nkankikan (EnCodec), nitorinaa iran di asọtẹlẹ-ami atẹle lori awọn fokabulari ohun ohun. Fun gbigbasilẹ 3-keji ti agbọrọsọ ti a ko rii pẹlu ọrọ ibi-afẹde, VALL-E tẹsiwaju ninu ohun agbọrọsọ yẹn, titọju timbre ati paapaa agbegbe akositiki. O ti gba ikẹkọ ni aijọju awọn wakati 60,000 ti ọrọ, lọpọlọpọ diẹ sii ju awọn iwe data TTS aṣoju lọ, eyiti o fun ni cloning odo-shot lagbara. Nitoripe awọn ami koodu kodẹki ti wa ni siwa (nipasẹ RVQ), VALL-E nlo awọn ipele meji: awoṣe autoregressive kan sọ asọtẹlẹ akọkọ, ṣiṣan tokini isokuso ti o ni iloniniye lori tọ, ati awoṣe ti kii ṣe autoregressive kun awọn ami alaye ti o ku. Ohunelo codec-LM yii ṣe atilẹyin awọn aṣeyọri bi VALL-E 2 ati ọpọlọpọ awọn awoṣe ipilẹ ọrọ.
Imọ-imọ-ẹrọ
Ẹtan naa ni iyipada arabara lori awọn ami kodẹki logalomomoise. Ipele autoregressive ṣe asọtẹlẹ awọn ami ami koodu akọkọ ti o ṣe pataki julọ ọkan ni akoko kan, yiya prosody ati akoonu. Awọn iwe koodu to ku, eyiti o ṣafikun awọn alaye akositiki ti o dara, jẹ asọtẹlẹ ni afiwe nipasẹ awoṣe ti kii ṣe autoregressive ti o ni ilodi si ṣiṣan akọkọ ati iyara agbọrọsọ. Pipin yii n tọju didara ga lakoko ti o yago fun idiyele ti ipilẹṣẹ gbogbo ami ami lẹsẹsẹ, ati lilo koodu kodẹki tumọ si ọrọ ati ọrọ le jẹ apẹrẹ pẹlu ẹrọ oluyipada kanna.
Titunto si VALL-E ati Awọn awoṣe Ede Kodẹki
VALL-E ṣe atunṣe ọrọ-si-ọrọ gẹgẹbi iṣoro awoṣe ede lori awọn ami koodu kodẹki ohun, ti o mu ki ẹda ohun mu ṣiṣẹ lati iṣẹju-aaya mẹta ti apẹẹrẹ kan. O fihan pe asọtẹlẹ atẹle-aami kanna ti o nfi ọrọ agbara agbara le ṣe ipilẹṣẹ iyalẹnu adayeba, ọrọ asọye. VALL-E ati Awọn awoṣe Ede Codec joko ni awọn ṣiṣan iṣẹ ohun-AI ti o yi ọrọ, orin, ati ohun pada fun ibaraẹnisọrọ, iraye si, ati iṣelọpọ media. Lati kọ oye ti o jinlẹ, tọju VALL-E ati Awọn awoṣe Ede Codec bi awoṣe iṣẹ, kii ṣe ẹya ẹyọkan: ṣalaye awọn abajade ti o fẹ, ṣalaye awọn arosọ, ati ya sọtọ ohun ti eto le ṣe ni igbẹkẹle lati ohun ti o tun nilo idajọ amoye.
Ni iṣe, awọn ẹgbẹ ti o lagbara ti nlo VALL-E ati Awọn awoṣe Ede Codec ṣe itọju didara, lairi, ati ifọwọsi bi awọn ẹya pataki kanna ti ilana imuṣiṣẹ. Wọn ṣe akọsilẹ awọn ibeere aṣeyọri ti o fojuhan, idanwo lodi si data ojulowo ati ṣiṣan iṣẹ, ati atunbere ti o da lori awọn ilana ikuna ti a ṣakiyesi dipo awọn bori ala-akoko kan. Eyi ni ibiti oye imọ-jinlẹ yipada si agbara ti o tọ kọja ọja, eto imulo, ati awọn iṣẹ ṣiṣe.
O ṣe ilọsiwaju iraye si nipasẹ transcription, alaye, ati awọn atọkun ohun. Ni akoko kanna, ilokulo ohun ati awọn eewu imisi eniyan n pọ si nigbati igbanilaaye ba sonu. Ọna resilient julọ julọ ni lati darapọ iyara idanwo pẹlu ibawi ijọba: ṣiṣe awọn awakọ awakọ, mu ẹri mu, ṣe atẹjade awọn iwe ipinnu, ati imudojuiwọn awọn aabo nigbagbogbo bi ihuwasi awoṣe, awọn ireti olumulo, ati awọn ibeere ilana ti dagbasoke.
Ipa Ilana
O ṣe ilọsiwaju iraye si nipasẹ transcription, alaye, ati awọn atọkun ohun.
O ṣe ilọsiwaju iraye si nipasẹ transcription, alaye, ati awọn atọkun ohun. Ni awọn imuṣiṣẹ ti o ni agbara giga, eyi ni a tumọ si awọn ofin iṣiṣẹ wiwọn, awọn aala nini, ati awọn ilana atunyẹwo loorekoore ki awọn ẹgbẹ le ṣe iwọn igbẹkẹle dipo iwọn aibikita.
Awọn ẹgbẹ Media le firanṣẹ ohun didan yiyara pẹlu awọn isuna-owo kekere.
Awọn ẹgbẹ Media le firanṣẹ ohun didan yiyara pẹlu awọn isuna-owo kekere. Ni awọn imuṣiṣẹ ti o ni agbara giga, eyi ni a tumọ si awọn ofin iṣiṣẹ wiwọn, awọn aala nini, ati awọn ilana atunyẹwo loorekoore ki awọn ẹgbẹ le ṣe iwọn igbẹkẹle dipo iwọn aibikita.
Awọn ọna ṣiṣe ti nkọju si alabara le ṣe ilana awọn ibaraẹnisọrọ sisọ ni iwọn nla.
Awọn ọna ṣiṣe ti nkọju si alabara le ṣe ilana awọn ibaraẹnisọrọ sisọ ni iwọn nla. Ni awọn imuṣiṣẹ ti o ni agbara giga, eyi ni a tumọ si awọn ofin iṣiṣẹ wiwọn, awọn aala nini, ati awọn ilana atunyẹwo loorekoore ki awọn ẹgbẹ le ṣe iwọn igbẹkẹle dipo iwọn aibikita.
Real-World imuse
Dida ohun kan lati iṣẹju-aaya diẹ ti ohun fun awọn oluranlọwọ ti ara ẹni tabi awọn irinṣẹ iraye si ti o mu ohun ti o sọnu padabọsipo
Sisọ agbegbe ati atunkọ fidio sinu awọn ede miiran lakoko titọju timbre agbọrọsọ atilẹba
Ṣiṣẹda ikosile, alaye ibaramu-ọrọ ti o ṣe itọju agbegbe akositiki gbigbasilẹ kan
Ṣiṣẹ bi egungun ẹhin ọrọ ni awọn oluranlọwọ multimodal ti o loye mejeeji ati ṣe agbejade ohun ti a sọ
Awọn Ilana imuse
VALL-E ati Awọn awoṣe Ede Kodẹki ni iṣe
Dida ohun kan lati iṣẹju-aaya diẹ ti ohun fun awọn oluranlọwọ ti ara ẹni tabi awọn irinṣẹ iraye si ti o mu ohun ti o sọnu padabọsipo.
Dida ohun kan lati iṣẹju-aaya diẹ ti ohun fun awọn oluranlọwọ ti ara ẹni tabi awọn irinṣẹ iraye si ti o mu pada awọn ẹgbẹ ohun ti o sọnu nigbagbogbo gba awọn abajade to dara julọ nigbati wọn ṣalaye awọn ilodi didara ni iwaju, tọju ọna igbega eniyan fun awọn ọran eti, ati tọpa awọn anfani iṣelọpọ mejeeji ati awọn idiyele aṣiṣe lori akoko.
VALL-E ati Awọn awoṣe Ede Kodẹki ni iṣe
Sisọ agbegbe ati atunkọ fidio sinu awọn ede miiran lakoko titọju timbre agbọrọsọ atilẹba.
Sisọsọ agbegbe ati atunkọ fidio sinu awọn ede miiran lakoko titọju awọn ẹgbẹ timbre agbọrọsọ atilẹba nigbagbogbo gba awọn abajade to dara julọ nigbati wọn ṣalaye awọn ilodi didara ni iwaju, tọju ọna igbega eniyan fun awọn ọran eti, ati tọpa awọn anfani iṣelọpọ mejeeji ati awọn idiyele aṣiṣe lori akoko.
VALL-E ati Awọn awoṣe Ede Kodẹki ni iṣe
Ṣiṣẹda ikosile, alaye ibaramu-ọrọ ti o ṣe itọju agbegbe akositiki gbigbasilẹ kan.
Ṣiṣẹda ikosile, alaye ibaramu-ọrọ ti o ṣe itọju agbegbe gbigbasilẹ gbigbasilẹ Awọn ẹgbẹ nigbagbogbo gba awọn abajade ti o dara julọ nigbati wọn ṣalaye awọn ilodi didara ni iwaju, tọju ọna igbega eniyan fun awọn ọran eti, ati tọpa awọn anfani iṣelọpọ mejeeji ati awọn idiyele aṣiṣe lori akoko.
VALL-E ati Awọn awoṣe Ede Kodẹki ni iṣe
Ṣiṣẹ bi egungun ẹhin ọrọ ni awọn oluranlọwọ multimodal ti o loye mejeeji ati ṣe agbejade ohun ti a sọ.
Ṣiṣẹ bi egungun ẹhin ọrọ ni awọn oluranlọwọ multimodal ti mejeeji loye ati gbejade Awọn ẹgbẹ ohun afetigbọ nigbagbogbo gba awọn abajade to dara julọ nigbati wọn ṣalaye awọn ilodi didara ni iwaju, tọju ọna igbega eniyan fun awọn ọran eti, ati tọpa awọn anfani iṣelọpọ mejeeji ati awọn idiyele aṣiṣe lori akoko.
Awọn ewu & Awọn ọna iṣọ
ilokulo ohun ati awọn ewu afarawe ṣe pọ si nigbati igbanilaaye ba sonu.
Yiye le ju silẹ kọja awọn asẹnti, awọn ede-ede, tabi awọn agbegbe alariwo.
Ohun afetigbọ sintetiki le jẹ aṣiṣe fun ọrọ ododo laisi isamisi to yege.
Ilana Ilana imuse
Gba ifọkansi ti o fojuhan fun gbigba ohun, ti ẹda, ati ilotunlo.
Gba ifọkansi ti o fojuhan fun gbigba ohun, ti ẹda, ati ilotunlo. Ṣe itọju igbesẹ kọọkan bi ẹnu-ọna ẹri: ti awọn ibeere ko ba ni ibamu, daduro yiyọ kuro, pa aafo naa, ati lẹhinna faagun lilo.
Didara idanwo kọja awọn agbohunsoke oniruuru ati awọn ipo abẹlẹ.
Didara idanwo kọja awọn agbohunsoke oniruuru ati awọn ipo abẹlẹ. Ṣe itọju igbesẹ kọọkan bi ẹnu-ọna ẹri: ti awọn ibeere ko ba ni ibamu, daduro yiyọ kuro, pa aafo naa, ati lẹhinna faagun lilo.
Ṣetumo nigbati eniyan gbọdọ ṣe atunyẹwo tabi fọwọsi awọn abajade.
Ṣetumo nigbati eniyan gbọdọ ṣe atunyẹwo tabi fọwọsi awọn abajade. Ṣe itọju igbesẹ kọọkan bi ẹnu-ọna ẹri: ti awọn ibeere ko ba ni ibamu, daduro yiyọ kuro, pa aafo naa, ati lẹhinna faagun lilo.
Aami ohun sintetiki ki o tọju awọn igbasilẹ provenance fun iṣiro.
Aami ohun sintetiki ki o tọju awọn igbasilẹ provenance fun iṣiro. Ṣe itọju igbesẹ kọọkan bi ẹnu-ọna ẹri: ti awọn ibeere ko ba ni ibamu, daduro yiyọ kuro, pa aafo naa, ati lẹhinna faagun lilo.