À suivreGuide suivant
Hachage perceptuel pour les images quasi-dupliquées
IA visuelle
GUIDE DE L'IA Visuelle
Perceptual losses compare image representations from a neural network instead of relying only on pixel differences.
Écoutez ce guideNarré par l'IA · ~2 min
LPIPS calibrates such feature distances against human similarity judgments, but no score guarantees that every image pair will be judged alike by every viewer.
Les pertes traditionnelles comme L2 (erreur quadratique moyenne) comparent les images pixel par pixel, donc un décalage d'un pixel ou une texture légèrement différente ressemble à une énorme erreur même si les humains le remarquent à peine. La perte de perception fait plutôt passer les deux images à travers un réseau pré-entraîné (souvent VGG) et compare les activations des couches intermédiaires. Étant donné que ces fonctionnalités codent les bords, les textures et les parties d'objet plutôt que les valeurs exactes des pixels, la perte correspond mieux au jugement humain, encourageant des sorties nettes et sémantiquement fidèles. LPIPS (Learned Perceptual Image Patch Similarity), introduit par Zhang et al. en 2018, formalise cela : il extrait les caractéristiques profondes, les normalise et applique des poids appris calibrés sur des milliers de jugements de similarité humaine, produisant un score de distance unique où plus faible signifie plus semblable sur le plan perceptuel.
Formation de réseaux à super-résolution (par exemple, SRGAN) pour que les photos mises à l'échelle soient nettes et texturées plutôt que floues.
Évaluer la compression d'image et les codecs en notant la proximité perceptuelle de l'image décodée par rapport à l'original.
Transfert de style de guidage, où le contenu est mis en correspondance via des fonctionnalités VGG approfondies plutôt que des pixels exacts.
Analyse comparative des générateurs d'images GAN et de diffusion en signalant la distance LPIPS entre les images générées et réelles.
Les métriques perceptuelles passent des structures de base de CNN aux fonctionnalités de modèles auto-supervisés et transformateurs de vision comme DINO et CLIP, qui capturent une sémantique plus riche. Attendez-vous à une intégration plus étroite avec la formation sur modèle de diffusion et l'évaluation texte-image, ainsi que des scores de perception optimisés pour la cohérence temporelle de la vidéo. Les chercheurs explorent également les angles morts du LPIPS : il peut être trompé de manière contradictoire et présente une faible corrélation avec la qualité à très haute fidélité, ce qui motive de nouvelles mesures alignées sur l'humain, telles que DISTS et les approches d'ensemble.
Newsletter gratuite
Trois histoires d'IA vérifiées chaque matin de la semaine, écrites dans un anglais simple. Gratuit pour toujours, sans publicité.
Un e-mail chaque jour de la semaine. Désabonnez-vous en un clic. Nous ne vendons ni ne partageons jamais votre adresse.
Testez-vous
Commentaires instantanés sur chaque réponse et un certificat partageable avec une pièce d'identité vérifiable une fois que vous avez réussi un cours.
Soutenez l’enseignement gratuit de l’IA. AI Understanding est une organisation à but non lucratif 501(c)(3) : pas de publicité, pas de paywall, jamais. Faire un don
Perceptual losses compare image representations from a neural network instead of relying only on pixel differences. LPIPS calibrates such feature distances against human similarity judgments, but no score guarantees that every image pair will be judged alike by every viewer.
L2 compare directement les pixels, de sorte que les petits décalages spatiaux ou différences de texture sont enregistrés comme des erreurs importantes, même lorsqu'une image semble correcte à une personne.
LPIPS extrait les activations de fonctionnalités profondes à partir d’une structure fixe et mesure leur distance, ce qui correspond mieux à la perception humaine que les pixels.
Les poids ont été appris pour correspondre à un vaste ensemble de données (BAPPS) de décisions humaines de similarité à deux choix forcés alternatifs.
LPIPS is calibrated to human similarity judgments, but its distance remains a model-based measure with limitations.
Les cartes de caractéristiques intermédiaires de VGG sont devenues la norme en matière de perte de perception dans des tâches telles que la super-résolution et le transfert de style.
Continuez à apprendre
Plus de guides sélectionnés pour ce sujet
À suivreGuide suivant
Hachage perceptuel pour les images quasi-dupliquées
IA visuelle