Terme du glossaire IA

Qu’est-ce que Dégradé ?

Définition

Un vecteur montrant dans quelle mesure chaque paramètre doit changer pour réduire les pertes.

Parcourez le glossaire complet de l'IAExplorez tous les guides gratuits sur l'IA

Termes associés

Taux d'apprentissageUn hyperparamètre de formation contrôlant la quantité de paramètres modifiés à chaque étape de mise à jour.Loi d'échelleRelation empirique montrant comment les performances s'améliorent avec la taille du modèle, les données ou le calcul.Attention fenêtre coulissanteUn modèle d'attention dans lequel chaque jeton s'occupe uniquement d'une fenêtre de taille fixe de jetons à proximité pour réduire le calcul.GAN (Réseau Adversaire Génératif)Une configuration générative où un générateur et un discriminateur s'entraînent l'un contre l'autre.GénéralisationDans quelle mesure un modèle fonctionne-t-il sur de nouvelles données invisibles en dehors de l'ensemble d'entraînement.Descente de dégradéUne méthode d'optimisation qui met à jour les paramètres dans le sens qui réduit les erreurs.

Apprenez-en davantage dans nos guides gratuits

Gradient AccumulationStochastic Gradient Descent with MomentumNesterov Accelerated GradientVanishing and Exploding Gradients

Voir aussi

Generative AIGround TruthGuardrailsFunction CallingHallucinationFoundation ModelHuman-in-the-LoopFine-Tuning