Audio AI Itọsọna
HiFi-GAN ati GAN Vocoders
HiFi-GAN jẹ vocoder ti ipilẹṣẹ-adversarial ti o yi mel-spectrogram kan sinu igbi ohun afetigbọ aise kan ti o fẹrẹẹ lesekese, ti n ṣe agbejade ọrọ didara ile-iṣere yiyara ju akoko gidi lọ.
Gbọ si itọsọna yiiAI-ṣe afihan · ~2 min
Lori iwe yi2 min ka
Akopọ
O di ipele ipari ipari ti ọrọ-si-ọrọ ode oni nitori pe o yara, iwuwo fẹẹrẹ, ati lile lati ṣe iyatọ si awọn gbigbasilẹ gidi.
Jin Dive
Vocoder jẹ igbesẹ ti o kẹhin ni ọpọlọpọ awọn opo gigun ti TTS: awoṣe bi Tacotron tabi FastSpeech ṣe asọtẹlẹ mel-spectrogram (aworan iwapọ ti igbohunsafẹfẹ ju akoko lọ), ati pe vocoder kun ni awọn apẹẹrẹ igbi igbi gangan. Awọn vocoders neural ni kutukutu bii WaveNet dun nla ṣugbọn ti ipilẹṣẹ iwe-apẹẹrẹ-nipasẹ-apẹẹrẹ, ti o jẹ ki wọn lọra ni irora. HiFi-GAN, ti a tu silẹ nipasẹ Kong, Kim, ati Bae ni ọdun 2020, rọpo loop autoregressive yẹn pẹlu olupilẹṣẹ ifunni-siwaju ẹyọkan ti o gba ikẹkọ ọta. Ẹtan bọtini rẹ ni lilo awọn alayatọ lọpọlọpọ ti o ṣe idajọ ohun ni awọn iwọn oriṣiriṣi ati lori awọn ilana igbakọọkan ti o yatọ, fi ipa mu monomono lati gba mejeeji ọrọ ti o dara ati akoko ipolowo ni ẹtọ. Abajade jẹ ọrọ 22 kHz ti iṣelọpọ awọn ọgọọgọrun awọn akoko yiyara ju akoko gidi lọ lori GPU kan, pẹlu ohun afetigbọ ilẹ-otitọ didara.
Real-World imuse
Ṣiṣẹda iṣelọpọ sisọ ti awọn oluranlọwọ foju ati awọn ohun elo lilọ kiri ti o nilo awọn idahun laisi idaduro gbigbọran.
Ngba agbara-pipade ohun akoko gidi ati awọn irinṣẹ atunkọ nibiti a ti ṣe jimọ mel-spectrogram cloned sinu ohun afetigbọ ohun adayeba.
Iwakọ iwe ohun afetigbọ ati awọn iru ẹrọ asọye adarọ-ese ti o ṣajọpọ awọn wakati ti ọrọ ni iyara ati ni olowo poku.
Ṣiṣẹ bi ipele igbi ni inu awọn iṣelọpọ ohun orin ati awọn demos orin nipasẹ awọn vocoders gbogbo ara BigVGAN.
Ojo iwaju ti HiFi-GAN ati GAN Vocoders
Awọn olugbohunsafẹfẹ GAN tẹsiwaju lati kere si ati yiyara: awọn ọmọ bi BigVGAN ṣafikun awọn imuṣiṣẹ atako-aliased lati ṣe gbogbogbo kọja awọn akọrin ti a ko rii, awọn ohun elo, ati awọn ede, lakoko ti UnivNet ati Vocos Titari si gbogbo agbaye, iṣelọpọ gbogbo-band. Ṣiṣanwọle ati awọn iyatọ ẹrọ ni bayi ṣiṣẹ vocoding inu awọn foonu ati awọn agbekọri fun awọn oluranlọwọ lairi kekere. Npọ sii, itankale ati awọn awoṣe ohun afetigbọ ti o baamu ti wa ni distilled sinu awọn olupilẹṣẹ ọna-ọna-ọna ara GAN, ni idapọ iṣotitọ itankale pẹlu iyara GAN. Reti awọn vocoders lati parẹ sinu gbogboogbo-idi awọn koodu ohun afetigbọ ohun ti n ṣe agbara ọrọ ati orin mejeeji.
Fifi o sinu iwa
Kini idi ti o ṣe pataki
- Wiwọle ati arọwọto. O ṣe ilọsiwaju iraye si nipasẹ transcription, alaye, ati awọn atọkun ohun.
- Iye owo ati isuna. Awọn ẹgbẹ Media le firanṣẹ ohun didan yiyara pẹlu awọn isuna-owo kekere.
- Iyara ati iwọn. Awọn ọna ṣiṣe ti nkọju si alabara le ṣe ilana awọn ibaraẹnisọrọ sisọ ni iwọn nla.
Ṣọra fun
- ilokulo ohun ati awọn ewu afarawe ṣe pọ si nigbati igbanilaaye ba sonu.
- Yiye le ju silẹ kọja awọn asẹnti, awọn ede-ede, tabi awọn agbegbe alariwo.
- Ohun afetigbọ sintetiki le jẹ aṣiṣe fun ọrọ ododo laisi isamisi to yege.
Next awọn igbesẹ
- Gba ifọkansi ti o fojuhan fun gbigba ohun, ti ẹda, ati ilotunlo.
- Didara idanwo kọja awọn agbohunsoke oniruuru ati awọn ipo abẹlẹ.
- Ṣetumo nigbati eniyan gbọdọ ṣe atunyẹwo tabi fọwọsi awọn abajade.
- Aami ohun sintetiki ki o tọju awọn igbasilẹ provenance fun iṣiro.
Tesiwaju Ṣiṣawari
Ìwé ìròyìn ọfẹ
Gba ìkànìyàn AI ojoojúmọ́
Ìtàn AI mẹta tó jẹ́rìí ní gbogbo owurọ́ ọjọ́ iṣẹ́, kọ́wé ní Gẹ̀ẹ́sì tó rọrùn. Ọfẹ́ fún gbogbo àkókò, kò sí ìpolówó.
Ìmeèlì kan ní gbogbo ọjọ́ iṣẹ́. Yọkúrò ní ìkànìyàn ní ìkànìyàn kan. A kò ta tàbí pín àdírẹ́sì rẹ.
Ṣe idanwo fun ara rẹ
Take the HiFi-GAN and GAN Vocoders quiz
Ìdáhùn lẹ́sẹ̀kẹsẹ̀ lórí gbogbo ìdáhùn, àti iwe-ẹ̀rí tó lè pin pẹ̀lú ID tó lè jẹ́rìí lẹ́yìn tí o bá kọ́ ẹ̀kọ́.
Ṣe àtìlẹ́yìn ẹ̀kọ́ AI ọfẹ́. AI Understanding jẹ́ àjọ àìní èrè 501(c)(3) — kò sí ìpolówó, kò sí àkúnya owó, ní gbogbo àkókò. Ṣe ẹbun kan
Awọn ibeere ti a beere nigbagbogbo
Kini HiFi-GAN ati GAN Vocoders?
HiFi-GAN jẹ vocoder ti ipilẹṣẹ-adversarial ti o yi mel-spectrogram kan sinu igbi ohun afetigbọ aise kan ti o fẹrẹẹ lesekese, ti n ṣe agbejade ọrọ didara ile-iṣere yiyara ju akoko gidi lọ. O di ipele ipari ipari ti ọrọ-si-ọrọ ode oni nitori pe o yara, iwuwo fẹẹrẹ, ati lile lati ṣe iyatọ si awọn gbigbasilẹ gidi.
Kini iṣẹ akọkọ ti vocoder bi HiFi-GAN ni opo gigun ti ọrọ-si-ọrọ?
Vocoder jẹ ipele ikẹhin ti o ṣajọpọ awọn ayẹwo fọọmu igbi gangan lati mel-spectrogram ti a ṣe nipasẹ awoṣe akositiki kan.
Kini idi ti HiFi-GAN yiyara pupọ ju vocoder WaveNet iṣaaju lọ?
WaveNet ṣe ipilẹṣẹ iwe-apẹẹrẹ-nipasẹ-ayẹwo (autoregressively), lakoko ti olupilẹṣẹ ifunni-iwaju HiFi-GAN ṣe agbejade fọọmu igbi ni ibọn kan, ni iyọrisi yiyara-ju iyara akoko gidi lọ.
Kini Iyatọ-akoko Olona-akoko HiFi-GAN ṣe iranlọwọ ni pataki lati mu?
Alatako-Akoko-pupọ n ṣe atunṣe fọọmu igbi 1D sinu 2D ni lilo awọn akoko-nọmba akọkọ lati ṣe awari igbekalẹ igbakọọkan ti a so si ipolowo.
GAN vocoders ti wa ni oṣiṣẹ 'adversarially.' Kini iyẹn tumọ si nibi?
Ninu iṣeto GAN kan, olupilẹṣẹ naa kọ ẹkọ lati ṣe agbejade awọn ọna igbi ojulowo to lati ṣe aṣiwere awọn nẹtiwọọki eleyato ti a kọ lati sọ otitọ lati inu ohun sintetiki.
Ewo ni vocoder nigbamii fa HiFi-GAN lati ṣe gbogbogbo dara si awọn ohun ti a ko rii, orin, ati awọn ohun elo?
BigVGAN ṣe iwọn HiFi-GAN ati ṣafikun awọn iṣiṣẹ igbakọọkan anti-aliased, imudarasi gbogbogbo si ohun afetigbọ kaakiri bi orin ati awọn ohun elo.
Tesiwaju kikọ
Jẹmọ awọn itọsọna
Awọn itọsọna diẹ sii ti a yan fun koko yii