Terme du glossaire IA

Qu’est-ce que Descente de dégradé ?

Définition

Une méthode d'optimisation qui met à jour les paramètres dans le sens qui réduit les erreurs.

Parcourez le glossaire complet de l'IAExplorez tous les guides gratuits sur l'IA

Termes associés

DPO (Optimisation des Préférences Directes)Une méthode de formation qui affine les modèles directement sur les paires de préférences sans avoir besoin d'un modèle de récompense distinct.DégradéUn vecteur montrant dans quelle mesure chaque paramètre doit changer pour réduire les pertes.RétropropagationL'algorithme de formation de base qui met à jour les pondérations du modèle en propageant les erreurs de prédiction vers l'arrière à travers le réseau.BiaisUn modèle cohérent d'erreur ou d'injustice dans le comportement des données ou du modèle.Lissage des étiquettesUne méthode de régularisation qui adoucit les étiquettes dures pour améliorer la généralisation.Taux d'apprentissageUn hyperparamètre de formation contrôlant la quantité de paramètres modifiés à chaque étape de mise à jour.

Apprenez-en davantage dans nos guides gratuits

Gradient AccumulationStochastic Gradient Descent with MomentumNesterov Accelerated GradientVanishing and Exploding Gradients

Voir aussi

Ground TruthGenerative AIGuardrailsGeneralizationHallucinationGAN (Generative Adversarial Network)Human-in-the-LoopFunction Calling