HiFi-GAN ati GAN Vocoders
HiFi-GAN jẹ vocoder ti ipilẹṣẹ-adversarial ti o yi mel-spectrogram kan sinu igbi ohun afetigbọ aise kan ti o fẹrẹẹ lesekese, ti n ṣe agbejade ọrọ didara ile-iṣere yiyara ju akoko gidi lọ.
Akopọ
It became the standard final stage of modern text-to-speech because it is fast, lightweight, and hard to distinguish from real recordings.
Jin Dive
Vocoder jẹ igbesẹ ti o kẹhin ni ọpọlọpọ awọn opo gigun ti TTS: awoṣe bi Tacotron tabi FastSpeech ṣe asọtẹlẹ mel-spectrogram (aworan iwapọ ti igbohunsafẹfẹ ju akoko lọ), ati pe vocoder kun ni awọn apẹẹrẹ igbi igbi gangan. Awọn vocoders neural ni kutukutu bii WaveNet dun nla ṣugbọn ti ipilẹṣẹ iwe-apẹẹrẹ-nipasẹ-apẹẹrẹ, ti o jẹ ki wọn lọra ni irora. HiFi-GAN, ti a tu silẹ nipasẹ Kong, Kim, ati Bae ni ọdun 2020, rọpo loop autoregressive yẹn pẹlu olupilẹṣẹ ifunni-siwaju ẹyọkan ti o gba ikẹkọ ọta. Ẹtan bọtini rẹ ni lilo awọn alayatọ lọpọlọpọ ti o ṣe idajọ ohun ni awọn iwọn oriṣiriṣi ati lori awọn ilana igbakọọkan ti o yatọ, fi ipa mu monomono lati gba mejeeji ọrọ ti o dara ati akoko ipolowo ni ẹtọ. Abajade jẹ ọrọ 22 kHz ti iṣelọpọ awọn ọgọọgọrun awọn akoko yiyara ju akoko gidi lọ lori GPU kan, pẹlu ohun afetigbọ ilẹ-otitọ didara.
Imọ-imọ-ẹrọ
Olupilẹṣẹ HiFi-GAN ṣe agbega mel-spectrogram nipasẹ awọn iyipada ti a gbejade, pẹlu awọn bulọọki aaye Olona-Gbigba tolera ti o dapọ awọn titobi ekuro ati awọn iwọn lati mu awọn ilana igbi ti o yatọ. Awọn idile ẹlẹyamẹya meji ṣe ọlọpa: Onipinpin-akoko Olona-pupọ tun ṣe ifihan ifihan 1D sinu awọn grids 2D ni awọn alakọbẹrẹ bii 2, 3, 5, 7, 11 lati yẹ akoko ipolowo, ati Onipinpin Olona-iwọn ṣe ayẹwo fọọmu igbi ni ọpọlọpọ awọn ipinnu isalẹ. Mel-spectrogram ati awọn adanu ibaamu ẹya jẹ ki ikẹkọ jẹ iduroṣinṣin.
Ipa Ilana
Wiwọle ati arọwọto
O ṣe ilọsiwaju iraye si nipasẹ transcription, alaye, ati awọn atọkun ohun.
Iye owo ati isuna
Awọn ẹgbẹ Media le firanṣẹ ohun didan yiyara pẹlu awọn isuna-owo kekere.
Iyara ati iwọn
Awọn ọna ṣiṣe ti nkọju si alabara le ṣe ilana awọn ibaraẹnisọrọ sisọ ni iwọn nla.
Ojo iwaju ti HiFi-GAN ati GAN Vocoders
Awọn olugbohunsafẹfẹ GAN tẹsiwaju lati kere si ati yiyara: awọn ọmọ bi BigVGAN ṣafikun awọn imuṣiṣẹ atako-aliased lati ṣe gbogbogbo kọja awọn akọrin ti a ko rii, awọn ohun elo, ati awọn ede, lakoko ti UnivNet ati Vocos Titari si gbogbo agbaye, iṣelọpọ gbogbo-band. Ṣiṣanwọle ati awọn iyatọ ẹrọ ni bayi ṣiṣẹ vocoding inu awọn foonu ati awọn agbekọri fun awọn oluranlọwọ lairi kekere. Npọ sii, itankale ati awọn awoṣe ohun afetigbọ ti o baamu ti wa ni distilled sinu awọn olupilẹṣẹ ọna-ọna-ọna ara GAN, ni idapọ iṣotitọ itankale pẹlu iyara GAN. Reti awọn vocoders lati parẹ sinu gbogboogbo-idi awọn koodu ohun afetigbọ ohun ti n ṣe agbara ọrọ ati orin mejeeji.
Real-World imuse
Ṣiṣẹda iṣelọpọ sisọ ti awọn oluranlọwọ foju ati awọn ohun elo lilọ kiri ti o nilo awọn idahun laisi idaduro gbigbọran.
Ngba agbara-pipade ohun akoko gidi ati awọn irinṣẹ atunkọ nibiti a ti ṣe jimọ mel-spectrogram cloned sinu ohun afetigbọ ohun adayeba.
Iwakọ iwe ohun afetigbọ ati awọn iru ẹrọ asọye adarọ-ese ti o ṣajọpọ awọn wakati ti ọrọ ni iyara ati ni olowo poku.
Ṣiṣẹ bi ipele igbi ni inu awọn iṣelọpọ ohun orin ati awọn demos orin nipasẹ awọn vocoders gbogbo ara BigVGAN.
Awọn ewu & Awọn ọna iṣọ
ilokulo ohun ati awọn ewu afarawe ṣe pọ si nigbati igbanilaaye ba sonu.
Yiye le ju silẹ kọja awọn asẹnti, awọn ede-ede, tabi awọn agbegbe alariwo.
Ohun afetigbọ sintetiki le jẹ aṣiṣe fun ọrọ ododo laisi isamisi to yege.
Ilana Ilana imuse
Gba ifọkansi ti o fojuhan fun gbigba ohun, ti ẹda, ati ilotunlo.
Didara idanwo kọja awọn agbohunsoke oniruuru ati awọn ipo abẹlẹ.
Ṣetumo nigbati eniyan gbọdọ ṣe atunyẹwo tabi fọwọsi awọn abajade.
Aami ohun sintetiki ki o tọju awọn igbasilẹ provenance fun iṣiro.
Tesiwaju Ṣiṣawari
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the HiFi-GAN and GAN Vocoders quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Itọsọna atẹle
Ni afiwe WaveGAN Vocoder
Awọn ibeere ti a beere nigbagbogbo
What is HiFi-GAN and GAN Vocoders?
HiFi-GAN jẹ vocoder ti ipilẹṣẹ-adversarial ti o yi mel-spectrogram kan sinu igbi ohun afetigbọ aise kan ti o fẹrẹẹ lesekese, ti n ṣe agbejade ọrọ didara ile-iṣere yiyara ju akoko gidi lọ. O di ipele ipari ipari ti ọrọ-si-ọrọ ode oni nitori pe o yara, iwuwo fẹẹrẹ, ati lile lati ṣe iyatọ si awọn gbigbasilẹ gidi.
Kini iṣẹ akọkọ ti vocoder bi HiFi-GAN ni opo gigun ti ọrọ-si-ọrọ?
Vocoder jẹ ipele ikẹhin ti o ṣajọpọ awọn ayẹwo fọọmu igbi gangan lati mel-spectrogram ti a ṣe nipasẹ awoṣe akositiki kan.
Kini idi ti HiFi-GAN yiyara pupọ ju vocoder WaveNet iṣaaju lọ?
WaveNet ṣe ipilẹṣẹ iwe-apẹẹrẹ-nipasẹ-ayẹwo (autoregressively), lakoko ti olupilẹṣẹ ifunni-iwaju HiFi-GAN ṣe agbejade fọọmu igbi ni ibọn kan, ni iyọrisi yiyara-ju iyara akoko gidi lọ.
Kini Iyatọ-akoko Olona-akoko HiFi-GAN ṣe iranlọwọ ni pataki lati mu?
Alatako-Akoko-pupọ n ṣe atunṣe fọọmu igbi 1D sinu 2D ni lilo awọn akoko-nọmba akọkọ lati ṣe awari igbekalẹ igbakọọkan ti a so si ipolowo.
GAN vocoders ti wa ni oṣiṣẹ 'adversarially.' Kini iyẹn tumọ si nibi?
Ninu iṣeto GAN kan, olupilẹṣẹ naa kọ ẹkọ lati ṣe agbejade awọn ọna igbi ojulowo to lati ṣe aṣiwere awọn nẹtiwọọki eleyato ti a kọ lati sọ otitọ lati inu ohun sintetiki.
Ewo ni vocoder nigbamii fa HiFi-GAN lati ṣe gbogbogbo dara si awọn ohun ti a ko rii, orin, ati awọn ohun elo?
BigVGAN ṣe iwọn HiFi-GAN ati ṣafikun awọn iṣiṣẹ igbakọọkan anti-aliased, imudarasi gbogbogbo si ohun afetigbọ kaakiri bi orin ati awọn ohun elo.