Terme du glossaire IA

Qu'est-ce que Descente de dégradé?

Définition

Une méthode d'optimisation qui met à jour les paramètres dans le sens qui réduit les erreurs.

Termes associés

DPO (Optimisation des Préférences Directes)
Une méthode de formation qui affine les modèles directement sur les paires de préférences sans avoir besoin d'un modèle de récompense distinct.
Dégradé
Un vecteur montrant dans quelle mesure chaque paramètre doit changer pour réduire les pertes.
Rétropropagation
L'algorithme de formation de base qui met à jour les pondérations du modèle en propageant les erreurs de prédiction vers l'arrière à travers le réseau.
Biais
Un modèle cohérent d'erreur ou d'injustice dans le comportement des données ou du modèle.
Lissage des étiquettes
Une méthode de régularisation qui adoucit les étiquettes dures pour améliorer la généralisation.
Taux d'apprentissage
Un hyperparamètre de formation contrôlant la quantité de paramètres modifiés à chaque étape de mise à jour.

Apprenez-en davantage dans nos guides gratuits

Gradient AccumulationStochastic Gradient Descent with MomentumNesterov Accelerated GradientVanishing and Exploding Gradients

Voir aussi

Ground TruthGenerative AIGuardrailsGeneralizationHallucinationGAN (Generative Adversarial Network)Human-in-the-LoopFunction Calling
Parcourez le glossaire complet de l'IAExplorez tous les guides gratuits sur l'IA