GUIDE des fondamentaux
Auto-encodeurs variationnels
Un auto-encodeur variationnel apprend une représentation latente probabiliste et un décodeur pour générer ou reconstruire des données.
Écoutez ce guideNarré par l'IA · ~1 min
Sur cette page1 minute de lecture
Plongée profonde
Bayes variationnel à codage automatique dérive une limite inférieure de preuve (ELBO) sur le log de vraisemblance marginal p(x). L'objectif peut être optimisé avec des gradients stochastiques en utilisant une a posteriori approximative et un reparamétrage. Pour un VAE gaussien, il comprend un terme de reconstruction/vraisemblance et un régularisateur KL vers le prior. La génération échantillonne séparément un latent du précédent et le décode ; cette étape d'échantillonnage n'est pas la définition ELBO. Le décodeur paramétre la vraisemblance p(x|z), une distribution sur les observations conditionnée par un latent. Ceci est différent du fait de tirer z du précédent puis de générer x.
Mise en œuvre dans le monde réel
Encodez une entrée dans des paramètres de distribution latents.
Échantillonnez un latent en utilisant l'astuce de reparamétrage pendant l'entraînement.
Reconstruction d’équilibre et régularisation préalable dans l’ELBO.
Utilisez un VAE pré-entraîné pour encoder et décoder les images en diffusion latente.
L’avenir des auto-encodeurs variationnels
Les conceptions de VAE varient en termes de probabilité, d’antécédents et d’objectifs. Évaluez la reconstruction, la qualité des échantillons et le comportement latent du modèle sélectionné.
Le mettre en pratique
Pourquoi c'est important
- Décisions plus claires. Il vous aide à séparer les affirmations techniques claires du langage marketing.
- Coût et budget. Vous pouvez poser de meilleures questions de mise en œuvre avant de dépenser de l'argent ou du temps.
- Équipe et flux de travail. Les équipes partageant une compréhension commune prennent de meilleures décisions en matière de produits, de politiques et d’apprentissage.
Attention à
- Différentes équipes peuvent utiliser le même terme différemment, alors définissez la portée dès le début.
- Les benchmarks peuvent paraître solides alors que les performances réelles sont inégales.
- Ignorer la qualité des données et les plans d’évaluation crée souvent des résultats fragiles.
Prochaines étapes
- Commencez par une définition en langage simple du résultat dont vous avez besoin.
- Choisissez une mesure de réussite et une condition d’échec avant de tester.
- Exécutez un petit pilote avec des données représentatives, pas un ensemble de démonstration raffiné.
- Documentez où les auto-encodeurs variationnels sont utiles et où les méthodes plus simples sont meilleures.
Continuez à explorer
Newsletter gratuite
Recevez le briefing quotidien sur l'IA
Trois histoires d'IA vérifiées chaque matin de la semaine, écrites dans un anglais simple. Gratuit pour toujours, sans publicité.
Un e-mail chaque jour de la semaine. Désabonnez-vous en un clic. Nous ne vendons ni ne partageons jamais votre adresse.
Testez-vous
Répondez au quiz sur les encodeurs automatiques variationnels
Commentaires instantanés sur chaque réponse et un certificat partageable avec une pièce d'identité vérifiable une fois que vous avez réussi un cours.
Soutenez l’enseignement gratuit de l’IA. AI Understanding est une organisation à but non lucratif 501(c)(3) : pas de publicité, pas de paywall, jamais. Faire un don
Questions fréquemment posées
Qu’est-ce que les auto-encodeurs variationnels ?
Un auto-encodeur variationnel apprend une représentation latente probabiliste et un décodeur pour générer ou reconstruire des données.
Que produit l'encodeur d'un VAE pour une entrée donnée ?
Contrairement à un auto-encodeur simple, un encodeur VAE génère des paramètres de distribution (généralement une moyenne et une variance gaussiennes), et un point est ensuite échantillonné à partir de cette distribution.
Quel est le but de l’astuce de reparamétrage ?
En écrivant z = mu + sigma * epsilon avec epsilon tiré d'une normale fixe, le caractère aléatoire est déplacé vers une entrée, donc la rétropropagation peut passer par mu et sigma.
Dans la formulation gaussienne standard de la VAE, qu’encourage le terme KL ?
Pour la VAE gaussienne standard décrite dans la formulation citée, le terme KL régularise la distribution postérieure approximative vers la distribution antérieure, généralement une distribution normale standard.
Dans un VAE gaussien, qu’est-ce qui permet de générer un nouvel échantillon ?
Un VAE gaussien spécifie une distribution a priori latente et une distribution de décodeur, permettant de prélever et de décoder un échantillon latent ; cela ne garantit pas un échantillon de haute qualité.
Dans un modèle de diffusion latente comme Stable Diffusion, quel rôle joue la VAE ?
L'exécution de la diffusion à l'intérieur d'un espace latent compressé par VAE réduit considérablement le calcul par rapport au travail directement dans l'espace des pixels.
Continuez à apprendre
Guides associés
Plus de guides sélectionnés pour ce sujet