What is Transformer? Definition | AI Understanding

Définition

Une architecture neuronale qui utilise l'attention pour modéliser les relations entre les séquences en parallèle.

Termes associés

Attention multi-têtes

Un mécanisme de transformation qui exécute plusieurs opérations d'attention en parallèle pour capturer différents types de relations.

Réseau neuronal convolutif (CNN)

Une architecture neuronale optimisée pour traiter des données de type grille telles que des images.

Apprentissage profond

Un sous-ensemble d'apprentissage automatique qui utilise des réseaux neuronaux à plusieurs couches pour l'apprentissage des représentations.

Mémoire (mémoire de l'agent)

Contexte stocké qu'un agent IA utilise au fil des étapes ou des sessions pour améliorer la continuité.

Attention éclair

Un algorithme d'attention optimisé qui réduit l'utilisation de la mémoire et accélère la formation et l'inférence des transformateurs.

AGI (Intelligence Générale Artificielle)

Un système d’IA hypothétique capable d’effectuer la plupart des tâches intellectuelles au niveau humain dans de nombreux domaines.

Apprenez-en davantage dans nos guides gratuits

Transformers Diffusion Transformers Spatial Transformer Networks DETR Transformer Detection

Voir aussi

Transfer Learning Training Loss Top-p (Nucleus) Sampling Unsupervised Learning Top-k Sampling Validation Set Tool Use Vector Database

Parcourez le glossaire complet de l'IA Explorez tous les guides gratuits sur l'IA