À suivreGuide suivant
Super-résolution ESRGAN et GAN
IA visuelle
GUIDE DE L'IA Visuelle
Wasserstein GAN (WGAN) est une refonte de l'objectif d'entraînement GAN qui utilise la distance de Wasserstein au lieu de la perte min-max d'origine.
Écoutez ce guideNarré par l'IA · ~2 min
Cela rend la formation GAN notoirement instable beaucoup plus fiable et donne une valeur de perte qui est réellement en corrélation avec la qualité de l'image.
Les GAN originaux entraînent deux réseaux dans une lutte acharnée : un générateur crée de fausses images et un discriminateur tente de les repérer. Cela s'effondre ou s'arrête souvent parce que la perte du discriminateur ne dit rien d'utile sur le progrès. WGAN, introduit par Arjovsky, Chintala et Bottou en 2017, remplace le discriminateur par un « critique » qui évalue la réalité d'une image sur une échelle continue plutôt que de classer le réel par rapport au faux. L'objectif de formation devient la distance de Wasserstein (terrassement) entre les distributions de données réelles et générées. Cette distance donne des gradients plus fluides et plus significatifs même lorsque les deux distributions se chevauchent à peine, réduisant considérablement l'effondrement des modes et faisant de la courbe de perte un véritable signal de qualité.
Génération de visages et de textures photoréalistes où les GAN vanille se sont réduits à quelques sorties répétées
Produire des images médicales synthétiques, telles que des patchs IRM ou histologiques, pour augmenter les rares ensembles de données étiquetées
Modélisation d'événements de collision de particules dans des simulations de physique des hautes énergies où une formation stable est essentielle
Servir de référence de base dans la recherche sur le ML, car sa perte suit la qualité de l'échantillon au fil de la formation
L'idée fondamentale de WGAN, selon laquelle le choix de la distance de distribution détermine la qualité du gradient, se reflète toujours dans la modélisation générative. Alors que les modèles de diffusion dominent désormais la synthèse d'images, les idées de transport optimal de WGAN réapparaissent dans l'appariement de flux, les méthodes du pont de Schrödinger et la distillation des modèles de diffusion dans des générateurs rapides à quelques étapes. Attendez-vous à ce que les objectifs de type Wasserstein continuent d’informer les approches hybrides où une formation stable et une mesure de perte significative sont importantes, en particulier dans les domaines scientifiques et à faibles données.
Newsletter gratuite
Trois histoires d'IA vérifiées chaque matin de la semaine, écrites dans un anglais simple. Gratuit pour toujours, sans publicité.
Un e-mail chaque jour de la semaine. Désabonnez-vous en un clic. Nous ne vendons ni ne partageons jamais votre adresse.
Testez-vous
Commentaires instantanés sur chaque réponse et un certificat partageable avec une pièce d'identité vérifiable une fois que vous avez réussi un cours.
Soutenez l’enseignement gratuit de l’IA. AI Understanding est une organisation à but non lucratif 501(c)(3) : pas de publicité, pas de paywall, jamais. Faire un don
Wasserstein GAN (WGAN) est une refonte de l'objectif d'entraînement GAN qui utilise la distance de Wasserstein au lieu de la perte min-max d'origine. Cela rend la formation GAN notoirement instable beaucoup plus fiable et donne une valeur de perte qui est réellement en corrélation avec la qualité de l'image.
WGAN remplace l'objectif original basé sur Jensen-Shannon par la distance de Wasserstein, qui fournit des gradients plus fluides même lorsque les distributions se chevauchent à peine.
Le critique note les images sur une échelle continue au lieu de les classer entre vrai et faux, ce qui fait que l’objectif de Wasserstein fonctionne.
La dualité qui permet à WGAN d'estimer la distance de Wasserstein ne vaut que pour les fonctions 1-Lipschitz, les gradients critiques doivent donc être bornés.
Le premier papier WGAN utilisait une coupure de poids brut ; WGAN-GP l'a ensuite remplacé par une pénalité de pente plus douce.
Les gradients plus doux du WGAN limitent l'effondrement du mode et produisent une perte qui est en réalité en corrélation avec la qualité de l'échantillon.
Continuez à apprendre
Plus de guides sélectionnés pour ce sujet
À suivreGuide suivant
Super-résolution ESRGAN et GAN
IA visuelle