Terme du glossaire IA

Qu'est-ce que Taux d'apprentissage?

Définition

Un hyperparamètre de formation contrôlant la quantité de paramètres modifiés à chaque étape de mise à jour.

Termes associés

Dégradé
Un vecteur montrant dans quelle mesure chaque paramètre doit changer pour réduire les pertes.
Hyperparamètre
Une valeur de configuration définie avant la formation, telle que le taux d'apprentissage, la taille du lot ou la profondeur.
Généralisation
Dans quelle mesure un modèle fonctionne-t-il sur de nouvelles données invisibles en dehors de l'ensemble d'entraînement.
Réglage fin efficace des paramètres (PEFT)
Méthodes qui adaptent les modèles en entraînant un petit sous-ensemble de paramètres ajoutés.
Recherche de faisceau
Un algorithme de décodage qui conserve les premières séquences candidates à chaque étape pour trouver des sorties à plus forte probabilité.
Fonction de perte
Un objectif mathématique qui quantifie l'erreur de prédiction lors de l'entraînement.

Apprenez-en davantage dans nos guides gratuits

Deep LearningReinforcement LearningMachine Learning BasicsSupervised Learning

Voir aussi

Large Language Model (LLM)LoRA (Low-Rank Adaptation)LatencyLabel SmoothingMachine Learning (ML)Knowledge GraphMemory (Agent Memory)Knowledge Distillation
Parcourez le glossaire complet de l'IAExplorez tous les guides gratuits sur l'IA