LegközelebbKövetkező útmutató
MelGAN Generatív Vocoder
Hangalapú AI
Audio AI ÚTMUTATÓ
A Parallel WaveGAN egy gyors neurális vocoder, amely a mel-spektrogramot nyers hanghullámformává alakítja egy kis GAN segítségével, egyszerre generálva minden mintát.
Hallgassa meg ezt az útmutatótAI-narrált · ~2 min
It matters because it gives near-real-time, high-quality speech with a compact model.
A vocoder a TTS pipeline utolsó szakasza: egy akusztikus jellemzőtérképet (általában egy mel-spektrogramot) alakít át a ténylegesen hallható hanghullámmá. A Yamamoto, Song és Kim által 2019-ben javasolt Parallel WaveGAN ezt egy nem autoregresszív WaveNet-stílusú generátorral teszi, amelyet generatív ellenséges hálózatként képeztek ki. Ahelyett, hogy egy-egy hangmintát előre jelezne, mint az eredeti WaveNet, a teljes hullámformát párhuzamosan állítja elő, így drámai módon gyorsabbá válik. Legfontosabb receptje az ellenséges veszteséget kombinálja a többfelbontású rövid idejű Fourier-transzformációs (STFT) veszteséggel, így a modell több idő- és frekvenciaskálán egyezteti a valós jelet. Az eredmény egy apró generátor (körülbelül 1,4 millió paraméter), amely sokszor gyorsabban fut, mint a valós időben egy GPU-n.
Valós idejű beszédkimenet a mobil hangsegédekben, ahol a késleltetés és a modell mérete számít
Hullámforma-generátorként olyan akusztikus modellekkel párosítva, mint a Tacotron 2 vagy a FastSpeech
Szövegfelolvasó az eszközön olyan kisegítő eszközökhöz, amelyek nem támaszkodhatnak a felhőre
Hangkonverziós rendszerek, amelyek a konvertált spektrogramokat természetes hangzású hanggá szintetizálják
A Parallel WaveGAN segített abban, hogy a GAN vokóderek gyakorlati alapértelmezésként működjenek, és többfelbontású STFT-vesztése most már megjelenik az olyan utódaiban, mint a HiFi-GAN és számos streaming rendszer. A pálya egyre kisebb, alacsonyabb késleltetésű vokoderek felé mutat az eszközön található asszisztensekhez, hallókészülékekhez és élő hangkonverzióhoz, valamint univerzális vokóderekhez, amelyek a láthatatlan hangszórókra általánosítanak. Várható szorosabb integráció a végpontok közötti TTS-sel, valamint a mobil és beágyazott chipeken történő hatékony telepítés.
Ingyenes hírlevél
Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.
Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.
Teszteld magad
Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.
Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt
A Parallel WaveGAN egy gyors neurális vocoder, amely a mel-spektrogramot nyers hanghullámformává alakítja egy kis GAN segítségével, egyszerre generálva minden mintát. Ez azért fontos, mert közel valós idejű, kiváló minőségű beszédet ad egy kompakt modellel.
A vokóder az utolsó TTS-fokozat, amely szintetizálja a tényleges hanghullámot akusztikus jellemzőkből, például egy mel-spektrogramból.
A Parallel WaveGAN nem autoregresszív, a teljes hullámformát egyszerre állítja elő, nem pedig mintáról mintára, ami sokkal gyorsabbá teszi.
A kontradiktórius veszteséget egy többfelbontású STFT veszteséggel kombinálja, amely több skálán hasonlítja össze a spektrogramm nagyságait.
A generátor egy WaveNet-szerű hálózat, amely kitágult konvolúciókból épül fel, a mel-spektrogramra és a zajra kondicionálva.
Körülbelül 1,4 millió paraméterével kicsi, és sokszor gyorsabban fut, mint a valós időben, ideális eszközön történő használatra.
Tanulj tovább
További útmutatók készültek ehhez a témához
LegközelebbKövetkező útmutató
MelGAN Generatív Vocoder
Hangalapú AI