Akopọ
StyleTTS 2 jẹ awoṣe ọrọ-si-ọrọ ti o tọju ‘ara’ ohun — prosody, imolara, ati timbre agbọrọsọ — gẹgẹbi oniyipada oniyipada ti a ṣe ayẹwo pẹlu awoṣe itankale, lẹhinna ṣajọpọ ohun pẹlu ikẹkọ ọta lodi si awoṣe ede ọrọ nla kan. O ṣe pataki nitori pe o de ipo adayeba ti ara eniyan lori awọn ami-ami agbọrọsọ ẹyọkan laisi nilo agekuru itọkasi ni akoko itọkasi.
Itankale ara StyleTTS 2 joko ni awọn ṣiṣan iṣẹ ohun-AI ti o yi ọrọ pada, orin, ati ohun fun ibaraẹnisọrọ, iraye si, ati iṣelọpọ media.
Jin Dive
StyleTTS 2, ti a tu silẹ ni ọdun 2023 nipasẹ awọn oniwadi ni Ile-ẹkọ giga Columbia, n ṣe agbejade ọrọ nipa iṣapẹẹrẹ akọkọ 'fekito ara' wiwaba kan nipa lilo ilana itankale ti o ni ilodi si nikan lori ọrọ titẹ sii, lẹhinna yiyan ara yẹn pẹlu awọn foonu foonu sinu fọọmu igbi kan. Fekito ara n ṣakoso ohun gbogbo ti a ko kọ sinu ọrọ naa: oṣuwọn sisọ, contour intonation, awọn idaduro, ati awọ ẹdun. Ni pataki, o ṣafikun ikẹkọ ọta pẹlu awọn awoṣe ede-ọrọ ti a ti kọ tẹlẹ (WavLM) bi awọn alayatọ, titari abajade si ohun afetigbọ ti eniyan nitootọ. Lori ala-ilẹ LJSpeech o kọja awọn igbasilẹ eniyan ni awọn idiyele olutẹtisi, ati lori ọpọlọpọ agbọrọsọ LibriTTS ṣeto o baamu otitọ ilẹ - ami-iyọri kan fun didara TTS neural opin-si-opin.
Imọ-imọ-ẹrọ
Ẹtan bọtini jẹ itanka ara: dipo asọtẹlẹ ọkan prosody ti o wa titi, StyleTTS 2 awọn awoṣe ara bi pinpin iṣeeṣe ati awọn ayẹwo lati ọdọ rẹ nipasẹ awoṣe itọjade ti n ṣiṣẹ ni aaye wiwakọ kekere, nitorinaa gbolohun kanna le sọ ọpọlọpọ awọn ọna adayeba. Ipari-si-opin, asọtẹlẹ iye akoko, koodu koodu ara, oluyipada, ati iyasọtọ atako ti o da lori WavLM jẹ ikẹkọ ni apapọ, jẹ ki awọn gradients san lati didara igbi pada nipasẹ gbogbo opo gigun ti epo.
Mastering StyleTTS 2 Ara Itankale
StyleTTS 2 jẹ awoṣe ọrọ-si-ọrọ ti o tọju ‘ara’ ohun — prosody, imolara, ati timbre agbọrọsọ — gẹgẹbi oniyipada oniyipada ti a ṣe ayẹwo pẹlu awoṣe itankale, lẹhinna ṣajọpọ ohun pẹlu ikẹkọ ọta lodi si awoṣe ede ọrọ nla kan. O ṣe pataki nitori pe o de ipo adayeba ti ara eniyan lori awọn ami-ami agbọrọsọ ẹyọkan laisi nilo agekuru itọkasi ni akoko itọkasi. Itankale ara StyleTTS 2 joko ni awọn ṣiṣan iṣẹ ohun-AI ti o yi ọrọ pada, orin, ati ohun fun ibaraẹnisọrọ, iraye si, ati iṣelọpọ media. Lati kọ oye ti o jinlẹ, tọju StyleTTS 2 Diffusion ara bi awoṣe iṣẹ, kii ṣe ẹya ẹyọkan: ṣalaye awọn abajade ti o fẹ, ṣalaye awọn arosọ, ati yapa ohun ti eto le ṣe ni igbẹkẹle lati ohun ti o tun nilo idajọ amoye.
Ni iṣe, awọn ẹgbẹ ti o lagbara ni lilo StyleTTS 2 Ara Diffusion ṣe itọju didara, lairi, ati igbanilaaye bi awọn ẹya pataki kanna ti ilana imuṣiṣẹ. Wọn ṣe akọsilẹ awọn ibeere aṣeyọri ti o fojuhan, idanwo lodi si data ojulowo ati ṣiṣan iṣẹ, ati atunbere ti o da lori awọn ilana ikuna ti a ṣakiyesi dipo awọn bori ala-akoko kan. Eyi ni ibiti oye imọ-jinlẹ yipada si agbara ti o tọ kọja ọja, eto imulo, ati awọn iṣẹ ṣiṣe.
O ṣe ilọsiwaju iraye si nipasẹ transcription, alaye, ati awọn atọkun ohun. Ni akoko kanna, ilokulo ohun ati awọn eewu imisi eniyan n pọ si nigbati igbanilaaye ba sonu. Ọna resilient julọ julọ ni lati darapọ iyara idanwo pẹlu ibawi ijọba: ṣiṣe awọn awakọ awakọ, mu ẹri mu, ṣe atẹjade awọn iwe ipinnu, ati imudojuiwọn awọn aabo nigbagbogbo bi ihuwasi awoṣe, awọn ireti olumulo, ati awọn ibeere ilana ti dagbasoke.
Ipa Ilana
O ṣe ilọsiwaju iraye si nipasẹ transcription, alaye, ati awọn atọkun ohun.
O ṣe ilọsiwaju iraye si nipasẹ transcription, alaye, ati awọn atọkun ohun. Ni awọn imuṣiṣẹ ti o ni agbara giga, eyi ni a tumọ si awọn ofin iṣiṣẹ wiwọn, awọn aala nini, ati awọn ilana atunyẹwo loorekoore ki awọn ẹgbẹ le ṣe iwọn igbẹkẹle dipo iwọn aibikita.
Awọn ẹgbẹ Media le firanṣẹ ohun didan yiyara pẹlu awọn isuna-owo kekere.
Awọn ẹgbẹ Media le firanṣẹ ohun didan yiyara pẹlu awọn isuna-owo kekere. Ni awọn imuṣiṣẹ ti o ni agbara giga, eyi ni a tumọ si awọn ofin iṣiṣẹ wiwọn, awọn aala nini, ati awọn ilana atunyẹwo loorekoore ki awọn ẹgbẹ le ṣe iwọn igbẹkẹle dipo iwọn aibikita.
Awọn ọna ṣiṣe ti nkọju si alabara le ṣe ilana awọn ibaraẹnisọrọ sisọ ni iwọn nla.
Awọn ọna ṣiṣe ti nkọju si alabara le ṣe ilana awọn ibaraẹnisọrọ sisọ ni iwọn nla. Ni awọn imuṣiṣẹ ti o ni agbara giga, eyi ni a tumọ si awọn ofin iṣiṣẹ wiwọn, awọn aala nini, ati awọn ilana atunyẹwo loorekoore ki awọn ẹgbẹ le ṣe iwọn igbẹkẹle dipo iwọn aibikita.
Real-World imuse
Ti o npese iwe ohun afetigbọ alaye ibi ti kanna agbọrọsọ nipa ti yatọ prosody kọja awọn ipin dipo kikeboosi monotone
Ṣiṣejade awọn ohun ihuwasi asọye fun awọn ere indie ati iwara laisi igbanisise awọn oṣere ohun pupọ
Awọn oluka iboju iraye si agbara ti o dun eniyan to fun gbigbọ fọọmu gigun
Ṣiṣẹda ohun e-eko agbegbe ti agbegbe pẹlu tcnu adayeba ati pacing lati ọrọ iwe afọwọkọ itele
Awọn Ilana imuse
StyleTTS 2 Itankale ara ni iṣe
Ti o npese iwe ohun afetigbọ alaye ibi ti kanna agbọrọsọ nipa ti yatọ prosody kọja awọn ipin dipo kikeboosi monotone.
Ṣiṣẹda alaye iwe ohun nibiti agbọrọsọ kanna ti ara ẹni yatọ si prosody kọja awọn ipin dipo kiki ohun monotone Awọn ẹgbẹ nigbagbogbo gba awọn abajade to dara julọ nigbati wọn ṣalaye awọn ilodi didara ni iwaju, tọju ọna igbega eniyan fun awọn ọran eti, ati tọpa awọn anfani iṣelọpọ mejeeji ati awọn idiyele aṣiṣe lori akoko.
StyleTTS 2 Itankale ara ni iṣe
Ṣiṣejade awọn ohun ihuwasi asọye fun awọn ere indie ati iwara laisi igbanisise awọn oṣere ohun pupọ.
Ṣiṣejade awọn ohun kikọ asọye fun awọn ere indie ati iwara laisi igbanisise awọn oṣere ohun pupọ Awọn ẹgbẹ nigbagbogbo gba awọn abajade to dara julọ nigbati wọn ṣalaye awọn ilodi didara ni iwaju, tọju ọna imudara eniyan fun awọn ọran eti, ati tọpa awọn anfani iṣelọpọ mejeeji ati awọn idiyele aṣiṣe lori akoko.
StyleTTS 2 Itankale ara ni iṣe
Awọn oluka iboju iraye si agbara ti o dun eniyan to fun gbigbọ fọọmu gigun.
Awọn oluka iboju iraye si agbara ti o dun eniyan to fun awọn ẹgbẹ tẹtisi fọọmu gigun nigbagbogbo gba awọn abajade ti o dara julọ nigbati wọn ṣalaye awọn ilodi didara ni iwaju, tọju ọna imudara eniyan fun awọn ọran eti, ati tọpa awọn anfani iṣelọpọ mejeeji ati awọn idiyele aṣiṣe lori akoko.
StyleTTS 2 Itankale ara ni iṣe
Ṣiṣẹda ohun e-eko agbegbe ti agbegbe pẹlu tcnu adayeba ati pacing lati ọrọ iwe afọwọkọ itele.
Ṣiṣẹda ohun e-eko agbegbe ti agbegbe pẹlu tcnu adayeba ati pacing lati ọrọ iwe afọwọkọ itele Awọn ẹgbẹ nigbagbogbo gba awọn abajade to dara julọ nigbati wọn ṣalaye awọn ilodi didara ni iwaju, tọju ọna igbega eniyan fun awọn ọran eti, ati tọpa awọn anfani iṣelọpọ mejeeji ati awọn idiyele aṣiṣe lori akoko.
Awọn ewu & Awọn ọna iṣọ
ilokulo ohun ati awọn ewu afarawe ṣe pọ si nigbati igbanilaaye ba sonu.
Yiye le ju silẹ kọja awọn asẹnti, awọn ede-ede, tabi awọn agbegbe alariwo.
Ohun afetigbọ sintetiki le jẹ aṣiṣe fun ọrọ ododo laisi isamisi to yege.
Ilana Ilana imuse
Gba ifọkansi ti o fojuhan fun gbigba ohun, ti ẹda, ati ilotunlo.
Gba ifọkansi ti o fojuhan fun gbigba ohun, ti ẹda, ati ilotunlo. Ṣe itọju igbesẹ kọọkan bi ẹnu-ọna ẹri: ti awọn ibeere ko ba ni ibamu, daduro yiyọ kuro, pa aafo naa, ati lẹhinna faagun lilo.
Didara idanwo kọja awọn agbohunsoke oniruuru ati awọn ipo abẹlẹ.
Didara idanwo kọja awọn agbohunsoke oniruuru ati awọn ipo abẹlẹ. Ṣe itọju igbesẹ kọọkan bi ẹnu-ọna ẹri: ti awọn ibeere ko ba ni ibamu, daduro yiyọ kuro, pa aafo naa, ati lẹhinna faagun lilo.
Ṣetumo nigbati eniyan gbọdọ ṣe atunyẹwo tabi fọwọsi awọn abajade.
Ṣetumo nigbati eniyan gbọdọ ṣe atunyẹwo tabi fọwọsi awọn abajade. Ṣe itọju igbesẹ kọọkan bi ẹnu-ọna ẹri: ti awọn ibeere ko ba ni ibamu, daduro yiyọ kuro, pa aafo naa, ati lẹhinna faagun lilo.
Aami ohun sintetiki ki o tọju awọn igbasilẹ provenance fun iṣiro.
Aami ohun sintetiki ki o tọju awọn igbasilẹ provenance fun iṣiro. Ṣe itọju igbesẹ kọọkan bi ẹnu-ọna ẹri: ti awọn ibeere ko ba ni ibamu, daduro yiyọ kuro, pa aafo naa, ati lẹhinna faagun lilo.