Réseaux de capsules
Les réseaux de capsules sont une architecture neuronale qui regroupe les neurones en « capsules » qui génèrent des vecteurs codant à la fois pour savoir si une caractéristique existe et sa pose (position, orientation, échelle).
Aperçu
They aim to fix a core blindness in standard convolutional networks: losing track of spatial relationships between parts.
Plongée profonde
Proposés par Geoffrey Hinton, Sara Sabour et Nicholas Frosst en 2017, les réseaux de capsules remplacent la sortie d'un neurone scalaire par un vecteur. La longueur du vecteur représente la probabilité qu'une entité (comme un œil ou un nez) soit présente, tandis que son orientation code les paramètres de pose. Les capsules de niveau inférieur prédisent la pose des capsules de niveau supérieur grâce à des matrices de transformation, et un processus appelé routage dynamique par accord décide à quelles prédictions se fier. Lorsque plusieurs parties-capsules s'accordent sur le même tout, le routage renforce cette connexion. Le CapsNet original a obtenu d'excellents résultats sur MNIST et était particulièrement robuste aux chiffres qui se chevauchent et aux transformations affines, abordant le « problème de Picasso » dans lequel les CNN acceptent les traits du visage confus comme un visage valide.
Aperçu technique
Le mécanisme clé est une non-linéarité « d'écrasement » qui réduit les vecteurs courts vers zéro et les vecteurs longs vers la longueur un, de sorte que la magnitude du vecteur se lit comme une probabilité. Le routage dynamique exécute ensuite quelques itérations d'une étape d'accord pondérée softmax : chaque capsule inférieure envoie sa prédiction vers le haut, et les coefficients de couplage augmentent pour les capsules supérieures dont la sortie s'aligne (via le produit scalaire) sur cette prédiction. Cela remplace le pooling maximum, préservant des informations spatiales précises au lieu de les supprimer.
Impact stratégique
Coût et budget
Les décisions en matière d'architecture déterminent les performances et les coûts d'exploitation pendant des années.
Décisions plus claires
La formation technique aide les équipes à choisir la bonne pile, pas seulement la plus récente.
Contrôle qualité
De meilleurs choix d’ingénierie réduisent les incidents de fiabilité en production.
L'avenir des réseaux de capsules
Les réseaux de capsules restent davantage une direction de recherche qu'une norme déployée, en grande partie parce que le routage dynamique est coûteux en calcul et s'adapte mal aux grandes images comme ImageNet. Des travaux ultérieurs ont exploré le routage EM (Matrix Capsules) et le routage basé sur l'auto-attention pour améliorer l'efficacité. À mesure que l’intérêt pour l’équivariance, l’efficacité des échantillons et les hiérarchies partie-tout interprétables grandit, les idées de capsules continuent d’influencer la recherche, y compris la dernière proposition GLOM de Hinton, même si les Transformers dominent la vision dominante.
Mise en œuvre dans le monde réel
Classer les chiffres manuscrits sur MNIST tout en reconstruisant l'entrée des vecteurs de capsule, montrant que les paramètres de pose sont significatifs.
Séparer deux chiffres qui se chevauchent (la tâche MultiMNIST) en segmentant quels pixels appartiennent à quelle entité.
Recherche en imagerie médicale utilisant des capsules pour détecter des nodules pulmonaires ou des tumeurs cérébrales là où les relations spatiales partie-tout sont importantes.
Reconnaître les objets à partir de nouveaux points de vue avec moins d'exemples de formation, en tirant parti de l'équivariance des points de vue intégrée à l'architecture.
Risques et garde-fous
L’optimisation d’un benchmark peut masquer des faiblesses plus larges du système.
Les coûts d’infrastructure et de maintenance sont souvent sous-estimés.
Les lacunes en matière de sécurité et d’observabilité peuvent se creuser à mesure que les systèmes deviennent plus complexes.
Feuille de route de mise en œuvre
Définissez les objectifs de latence, de qualité et de coût avant la mise en œuvre.
Benchmark dans des conditions de charge et de données réalistes.
Surveillance des instruments pour détecter les erreurs, la dérive et l'impact sur l'utilisateur.
Préparez les chemins de restauration et de réponse aux incidents avant la mise à l’échelle.
Continuez à explorer
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Capsule Networks quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Guide suivant
Réseaux autoroutiers et connexions de sauts
Questions fréquemment posées
What is Capsule Networks?
Les réseaux de capsules sont une architecture neuronale qui regroupe les neurones en « capsules » qui génèrent des vecteurs codant à la fois pour savoir si une caractéristique existe et sa pose (position, orientation, échelle). Ils visent à remédier à un problème majeur dans les réseaux convolutifs standards : la perte de la trace des relations spatiales entre les parties.
Dans un réseau de capsules, que représente la LONGUEUR du vecteur de sortie d'une capsule ?
La longueur (magnitude) du vecteur code la probabilité que l'entité existe, tandis que son orientation code des paramètres de pose tels que la position et la rotation.
Pour quel problème avec les CNN standards les réseaux de capsules ont-ils été spécialement conçus pour résoudre ?
Les CNN avec pooling maximal ignorent les relations spatiales précises, de sorte qu'un visage avec des caractéristiques mal placées peut toujours obtenir un score élevé. C’est le « problème Picasso » que les capsules tentent de résoudre.
Quel est le nom de l'algorithme qui décide quelles capsules de niveau inférieur se connectent à quelles capsules de niveau supérieur ?
Le routage dynamique par accord renforce de manière itérative les connexions entre les capsules dont les prédictions concordent avec le rendement d'une capsule plus élevée.
Qui a introduit le réseau capsule avec routage dynamique en 2017 ?
L'article de 2017 « Dynamic Routing Between Capsules » a été rédigé par Sara Sabour, Nicholas Frosst et Geoffrey Hinton.
A quoi sert la fonction 'squash' dans un réseau de capsules ?
La non-linéarité d'écrasement réduit les vecteurs courts vers zéro et plafonne les vecteurs longs près de la longueur un, de sorte que la magnitude peut être lue comme une probabilité tandis que l'orientation (pose) est préservée.