Il prossimoProssima guida
Vocoder generativo MelGAN
IA audio
GUIDA AI audio
Parallel WaveGAN è un vocoder neurale veloce che trasforma uno spettrogramma mel in una forma d'onda audio grezza utilizzando un piccolo GAN, generando tutti i campioni contemporaneamente.
Ascolta questa guidaNarrato dall'IA · ~2 min
It matters because it gives near-real-time, high-quality speech with a compact model.
Un vocoder è lo stadio finale di una pipeline TTS: converte una mappa delle caratteristiche acustiche (di solito uno spettrogramma mel) nell'onda sonora effettiva che senti. Parallel WaveGAN, proposto da Yamamoto, Song e Kim nel 2019, fa questo con un generatore non autoregressivo in stile WaveNet addestrato come una rete generativa avversaria. Invece di prevedere un campione audio alla volta come WaveNet originale, produce l'intera forma d'onda in parallelo, rendendola notevolmente più veloce. La sua ricetta chiave combina una perdita contraddittoria con una perdita multi-risoluzione della trasformata di Fourier a breve termine (STFT), in modo che il modello corrisponda al segnale reale su diverse scale temporali e di frequenza. Il risultato è un minuscolo generatore (circa 1,4 milioni di parametri) che funziona molto più velocemente del tempo reale su una GPU.
Output vocale in tempo reale negli assistenti vocali mobili dove la latenza e le dimensioni del modello contano
Serve come generatore di forme d'onda abbinato a modelli acustici come Tacotron 2 o FastSpeech
Sintesi vocale sul dispositivo per strumenti di accessibilità che non possono fare affidamento sul cloud
Sistemi di conversione vocale che risintetizzano gli spettrogrammi convertiti in audio dal suono naturale
Parallel WaveGAN ha contribuito a stabilire i vocoder GAN come impostazione pratica predefinita e la sua perdita STFT multi-risoluzione ora appare su successori come HiFi-GAN e molti sistemi di streaming. La traiettoria punta verso vocoder sempre più piccoli e a latenza inferiore per assistenti sul dispositivo, apparecchi acustici e conversione vocale dal vivo, oltre a vocoder universali che si generalizzano a altoparlanti invisibili. Aspettatevi un'integrazione più stretta con TTS end-to-end e un'implementazione efficiente su chip mobili e incorporati.
Newsletter gratuita
Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.
Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.
Mettiti alla prova
Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.
Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione
Parallel WaveGAN è un vocoder neurale veloce che trasforma uno spettrogramma mel in una forma d'onda audio grezza utilizzando un piccolo GAN, generando tutti i campioni contemporaneamente. È importante perché fornisce un parlato quasi in tempo reale e di alta qualità con un modello compatto.
Un vocoder è lo stadio TTS finale che sintetizza l'onda sonora effettiva da caratteristiche acustiche come uno spettrogramma mel.
Parallel WaveGAN non è autoregressivo, produce l'intera forma d'onda in una volta anziché campione per campione, il che lo rende molto più veloce.
Combina una perdita contraddittoria con una perdita STFT multi-risoluzione che confronta le magnitudini dello spettrogramma su diverse scale.
Il generatore è una rete simile a WaveNet costruita da convoluzioni dilatate, condizionata sullo spettrogramma mel e sul rumore.
Con circa 1,4 milioni di parametri è piccolo e funziona molte volte più velocemente del tempo reale, ideale per l'utilizzo sul dispositivo.
Continua a imparare
Altre guide selezionate per questo argomento
Il prossimoProssima guida
Vocoder generativo MelGAN
IA audio