ДаліНаступний посібник
Вокодер на основі потоку WaveGlow
Аудіо AI
Технічний КЕРІВНИЦТВО
Normalizing flows map a simple base distribution to a more complex distribution through invertible, differentiable transformations.
Послухайте цей посібникШІ-розказаний · ~2 min
Tractable Jacobian determinants allow these models to generate samples and evaluate probability densities.
A normalizing flow learns a bijective (one-to-one, invertible) mapping between a simple base distribution and a complicated target distribution such as images or audio. You stack many invertible layers; running them forward warps Gaussian noise into a realistic sample, and running them backward maps real data back to noise. The defining trick is the change-of-variables formula, which lets you evaluate tractable model densities by tracking how each transformation stretches or shrinks volume via its Jacobian determinant. Unlike VAEs (which approximate likelihood) or GANs (which give none), flows can offer tractable model densities when the architecture permits the required inverse and Jacobian evaluation. The engineering challenge is designing layers that are expressive yet keep the Jacobian determinant cheap to compute, as in RealNVP, Glow, and autoregressive flows.
A density-estimation team evaluates flow likelihoods as one signal for anomaly detection, then tests whether that signal separates relevant anomalies.
Flow-based audio models such as WaveGlow generate waveforms from a noise distribution.
Inverse Autoregressive Flows make variational posterior approximations more flexible.
Boltzmann generators use invertible transformations to sample molecular configurations.
Чисті нормалізуючі потоки були дещо затьмарені дифузійними моделями для необробленої якості зображення, але ідеї потоків відроджуються. Формулювання безперервного часу (безперервні нормалізуючі потоки, нейронні ODE) і особливо узгодження потоків, метод навчання, що лежить в основі таких систем, як Stable Diffusion 3 і багатьох сучасних генераторів, переробляє генерацію як вивчення поля швидкості, яке передає шум до даних. Очікуйте, що потоки залишатимуться центральними скрізь, де важливі точні ймовірності, оборотність або швидка детермінована вибірка, і продовжуватимуть концептуально зливатися з дифузією.
Безплатний розсилок
Три перевірені історії про ШІ щоробочого ранку, написані простою мовою. Безплатно назавжди, без реклами.
Один лист щотижня з понеділка по п'ятницю. Відписатися в один клік. Ми ніколи не продаємо та не передаємо вашу адресу.
Перевір себе
Миттєва зворотна связь на кожну відповідь та сертифікат із перевіреним ідентифікатором, яким можна поділитися, після проходження курсу.
Підтримайте безплатну освіту у сфері ШІ. AI Understanding — це некомерційна організація 501(c)(3) — без реклами, без платних стін, назавжди. Зробіть пожертву
Normalizing flows map a simple base distribution to a more complex distribution through invertible, differentiable transformations. Tractable Jacobian determinants allow these models to generate samples and evaluate probability densities.
Потоки покладаються на оборотні, диференційовані перетворення, тому дані можуть бути зіставлені з шумом і назад, і тому застосовується формула зміни змінних.
log p(x) = log p(z) + log|det(якобіан)| враховує, як перетворення розтягує або стискає ймовірний об’єм, даючи точну щільність.
Зв’язувальні шари перетворюють лише частину розмірів на основі решти, створюючи трикутний якобіан, детермінантом якого є лише добуток діагоналі, набагато дешевше, ніж O(n^3).
An invertible flow with tractable Jacobian calculation can evaluate its model density. This is distinct from proving that likelihood is an adequate anomaly score.
Likelihood can be a useful signal, but generative models can assign unexpectedly high likelihoods to out-of-distribution inputs.
Продовжуйте вчитися
Інші посібники, вибрані для цієї теми
ДаліНаступний посібник
Вокодер на основі потоку WaveGlow
Аудіо AI