NastępnyNastępny poradnik
Super-rozdzielczość ESRGAN i GAN
Wizualna sztuczna inteligencja
PRZEWODNIK Wizualnej AI
Wasserstein GAN (WGAN) to przeprojektowany cel treningowy GAN, który wykorzystuje odległość Wassersteina zamiast pierwotnej straty min-max.
Posłuchaj tego przewodnikaOpowiadane przez sztuczną inteligencję · ~2 min
It makes notoriously unstable GAN training far more reliable and gives a loss value that actually correlates with image quality.
Oryginalne sieci GAN trenują dwie sieci w przeciąganiu liny: generator tworzy fałszywe obrazy, a dyskryminator próbuje je wykryć. Często to się załamuje lub stoi w martwym punkcie, ponieważ strata dyskryminatora nie mówi nic przydatnego o postępie. WGAN, wprowadzony przez Arjovsky'ego, Chintalę i Bottou w 2017 r., zastępuje dyskryminator „krytykiem”, który ocenia, jak realny jest obraz w ciągłej skali, zamiast klasyfikować prawdziwy i fałszywy. Celem szkoleniowym staje się odległość Wassersteina (maszyna poruszającego ziemię) pomiędzy rozkładami danych rzeczywistych i wygenerowanych. Odległość ta zapewnia gładsze, bardziej znaczące gradienty nawet wtedy, gdy dwa rozkłady ledwo się pokrywają, radykalnie zmniejszając załamanie trybu i czyniąc krzywą strat sygnałem o prawdziwej jakości.
Generowanie fotorealistycznych twarzy i tekstur, w których zwykłe sieci GAN sprowadzają się do kilku powtarzalnych wyników
Tworzenie syntetycznych obrazów medycznych, takich jak MRI lub łatki histologiczne, w celu poszerzenia rzadkich, oznakowanych zbiorów danych
Modelowanie zdarzeń zderzeń cząstek w symulacjach fizyki wysokich energii, gdzie krytyczne znaczenie ma stabilne szkolenie
Służy jako podstawowy punkt odniesienia w badaniach nad uczeniem się dzieci, ponieważ jego utrata odzwierciedla jakość próbki w trakcie szkolenia
Podstawowe spostrzeżenie WGAN, że wybór odległości dystrybucji kształtuje jakość gradientu, wciąż odbija się echem w modelowaniu generatywnym. Chociaż modele dyfuzyjne dominują obecnie w syntezie obrazu, koncepcje optymalnego transportu z WGAN pojawiają się ponownie w dopasowywaniu przepływów, metodach mostka Schrodingera i destylacji modeli dyfuzyjnych do szybkich, kilkuetapowych generatorów. Można się spodziewać, że cele w stylu Wassersteina będą na bieżąco informować o podejściach hybrydowych, w których liczy się stabilne szkolenie i znaczący wskaźnik strat, szczególnie w dziedzinach naukowych i o małej ilości danych.
Darmowy newsletter
Trzy zweryfikowane historie AI każdego poranka w dni robocze, napisane prostym angielskim. Bezpłatne na zawsze, bez reklam.
Jedno e‑mail każdego dnia roboczego. Wypisz się jednym kliknięciem. Nigdy nie sprzedajemy ani nie udostępniamy Twojego adresu.
Sprawdź się
Natychmiastowa informacja zwrotna na każde pytanie oraz udostępnialny certyfikat z weryfikowalnym ID po zaliczeniu kursu.
Wspieraj darmową edukację AI. AI Understanding jest organizacją non-profit 501(c)(3) — bez reklam, bez płatnej ściany, zawsze. Przekaż darowiznę
Wasserstein GAN (WGAN) to przeprojektowany cel treningowy GAN, który wykorzystuje odległość Wassersteina zamiast pierwotnej straty min-max. Sprawia, że notorycznie niestabilne szkolenie GAN jest znacznie bardziej niezawodne i zapewnia wartość strat, która faktycznie koreluje z jakością obrazu.
WGAN zastępuje oryginalny obiektyw oparty na Jensenie-Shannonie odległością Wassersteina, która zapewnia gładsze gradienty nawet wtedy, gdy rozkłady ledwo się pokrywają.
Krytyk ocenia obrazy w skali ciągłej, zamiast klasyfikować prawdziwe i fałszywe, co sprawia, że obiektyw Wassersteina działa.
Dwoistość, która pozwala WGAN oszacować odległość Wassersteina, dotyczy tylko funkcji 1-Lipschitza, więc gradienty krytyka muszą być ograniczone.
W pierwszym papierze WGAN zastosowano surowe obcinanie ciężarków; WGAN-GP później zastąpiło to karą za łagodniejszy gradient.
Płynniejsze gradienty WGAN ograniczają załamanie trybu i powodują straty, które faktycznie korelują z jakością próbki.
Ucz się dalej
Wybrano więcej przewodników na ten temat
NastępnyNastępny poradnik
Super-rozdzielczość ESRGAN i GAN
Wizualna sztuczna inteligencja