Il prossimoProssima guida
Diffusione latente audio stabile
IA audio
GUIDA AI audio
DiffWave è un vocoder basato sulla diffusione che sintetizza l'audio eliminando iterativamente il rumore casuale in una forma d'onda, condizionata su uno spettrogramma mel.
Ascolta questa guidaNarrato dall'IA · ~2 min
It brought diffusion models to high-fidelity speech, rivaling GANs and WaveNet without adversarial training.
DiffWave, introdotto da Kong et al. nel 2020, applica il quadro del modello probabilistico di diffusione del denoising all'audio grezzo. Durante l'addestramento aggiunge gradualmente rumore gaussiano a una forma d'onda pulita in molti passaggi, quindi apprende una rete per prevedere e rimuovere quel rumore a ogni passaggio. Al momento della generazione parte dal rumore puro ed esegue il processo inverso, condizionato su uno spettrogramma mel, per recuperare il parlato pulito. La dorsale è una rete non autoregressiva, a convoluzione dilatata, simile a WaveNet ma che prevede il rumore anziché i campioni. DiffWave è all'altezza di vocoder potenti in termini di qualità ed è particolarmente robusto, producendo anche un parlato ragionevole e incondizionato e risultati coerenti tra gli altoparlanti. Il principale compromesso è la velocità: il campionamento ingenuo richiede da decine a migliaia di passaggi, anche se i programmi rapidi li riducono a un minimo di sei.
Back-end neurali di sintesi vocale ad alta fedeltà che evitano l'addestramento GAN instabile
Generazione vocale incondizionata per l'aumento dei dati e la ricerca audio
Sintesi vocale robusta per gli altoparlanti in cui un modello gestisce molte voci in modo coerente
Un banco di prova per la ricerca sulla diffusione a campionamento rapido, applicando brevi programmi di rumore all'audio in tempo reale
DiffWave ha dato il via ai vocoder a diffusione e ai successori più veloci come PriorGrad e FastDiff che riducono il numero dei passi. Il campo sta convergendo sulle tecniche di distillazione e di modello di consistenza che mirano al campionamento della diffusione in un unico passaggio, colmando il divario di velocità con i vocoder GAN mantenendo l'addestramento stabile e la robustezza della diffusione. Aspettatevi che le idee di diffusione si diffondano ulteriormente nella musica, nei codec neurali e nella generazione audio universale dove la copertura della modalità è importante.
Newsletter gratuita
Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.
Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.
Mettiti alla prova
Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.
Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione
DiffWave è un vocoder basato sulla diffusione che sintetizza l'audio eliminando iterativamente il rumore casuale in una forma d'onda, condizionata su uno spettrogramma mel. Ha portato modelli di diffusione nel parlato ad alta fedeltà, rivaleggiando con GAN e WaveNet senza formazione contraddittoria.
DiffWave parte dal rumore gaussiano ed esegue il processo di diffusione inversa, eliminando ripetutamente il rumore mentre è condizionato su uno spettrogramma mel, per produrre la forma d'onda.
DiffWave addestra una rete per prevedere il rumore gaussiano aggiunto in una fase di diffusione scelta casualmente, utilizzando una perdita L2 ponderata.
Il campionamento per diffusione ingenua richiede molti passaggi inversi; sebbene le pianificazioni veloci siano utili, il processo iterativo è il principale costo in termini di velocità.
I modelli di diffusione vengono addestrati con un obiettivo stabile in stile regressione, evitando l'instabilità che può soffrire l'addestramento GAN antagonista.
DiffWave utilizza una struttura non autoregressiva di convoluzioni dilatate simile a WaveNet, ma prevede il rumore anziché i campioni audio.
Continua a imparare
Altre guide selezionate per questo argomento
Il prossimoProssima guida
Diffusione latente audio stabile
IA audio