À suivreGuide suivant
Vocodeur basé sur le flux WaveGlow
IA audio
GUIDE Technique
Normalizing flows map a simple base distribution to a more complex distribution through invertible, differentiable transformations.
Écoutez ce guideNarré par l'IA · ~2 min
Tractable Jacobian determinants allow these models to generate samples and evaluate probability densities.
A normalizing flow learns a bijective (one-to-one, invertible) mapping between a simple base distribution and a complicated target distribution such as images or audio. You stack many invertible layers; running them forward warps Gaussian noise into a realistic sample, and running them backward maps real data back to noise. The defining trick is the change-of-variables formula, which lets you evaluate tractable model densities by tracking how each transformation stretches or shrinks volume via its Jacobian determinant. Unlike VAEs (which approximate likelihood) or GANs (which give none), flows can offer tractable model densities when the architecture permits the required inverse and Jacobian evaluation. The engineering challenge is designing layers that are expressive yet keep the Jacobian determinant cheap to compute, as in RealNVP, Glow, and autoregressive flows.
A density-estimation team evaluates flow likelihoods as one signal for anomaly detection, then tests whether that signal separates relevant anomalies.
Flow-based audio models such as WaveGlow generate waveforms from a noise distribution.
Inverse Autoregressive Flows make variational posterior approximations more flexible.
Boltzmann generators use invertible transformations to sample molecular configurations.
Les flux de normalisation pure ont été quelque peu éclipsés par les modèles de diffusion pour la qualité d'image brute, mais les idées de flux réapparaissent. Les formulations en temps continu (flux de normalisation continus, ODE neuronales) et en particulier l'appariement de flux, la méthode d'entraînement derrière des systèmes comme Stable Diffusion 3 et de nombreux générateurs modernes, refont la génération comme l'apprentissage d'un champ de vitesse qui transporte le bruit vers les données. Attendez-vous à ce que les flux restent centraux partout où les vraisemblances exactes, l’inversibilité ou l’échantillonnage déterministe rapide comptent, et qu’ils continuent à fusionner conceptuellement avec la diffusion.
Newsletter gratuite
Trois histoires d'IA vérifiées chaque matin de la semaine, écrites dans un anglais simple. Gratuit pour toujours, sans publicité.
Un e-mail chaque jour de la semaine. Désabonnez-vous en un clic. Nous ne vendons ni ne partageons jamais votre adresse.
Testez-vous
Commentaires instantanés sur chaque réponse et un certificat partageable avec une pièce d'identité vérifiable une fois que vous avez réussi un cours.
Soutenez l’enseignement gratuit de l’IA. AI Understanding est une organisation à but non lucratif 501(c)(3) : pas de publicité, pas de paywall, jamais. Faire un don
Normalizing flows map a simple base distribution to a more complex distribution through invertible, differentiable transformations. Tractable Jacobian determinants allow these models to generate samples and evaluate probability densities.
Les flux reposent sur des transformations inversibles et différentiables afin que les données puissent être mappées au bruit et inversement, et ainsi la formule de changement de variables s'applique.
log p(x) = log p(z) + log|det(Jacobien)| rend compte de la façon dont la transformation étend ou comprime le volume de probabilité, donnant une densité exacte.
Les couches de couplage ne transforment qu'une partie des dimensions en fonction du reste, produisant un jacobien triangulaire dont le déterminant est juste le produit de la diagonale, bien moins cher que O(n^3).
An invertible flow with tractable Jacobian calculation can evaluate its model density. This is distinct from proving that likelihood is an adequate anomaly score.
Likelihood can be a useful signal, but generative models can assign unexpectedly high likelihoods to out-of-distribution inputs.
Continuez à apprendre
Plus de guides sélectionnés pour ce sujet
À suivreGuide suivant
Vocodeur basé sur le flux WaveGlow
IA audio