Terme du glossaire IA

Qu’est-ce que Apprentissage par renforcement à partir de la rétroaction humaine (RLHF) ?

Définition

Une méthode de formation qui utilise les signaux de préférence humaine pour façonner le comportement du modèle.

Parcourez le glossaire complet de l'IAExplorez tous les guides gratuits sur l'IA

Termes associés

Apprentissage par renforcementLa formation par récompense signale qu'un agent apprend des actions qui maximisent le rendement à long terme.Modèle de récompenseUn modèle qui évalue les sorties en fonction des signaux de préférence, souvent utilisé dans les pipelines RLHF.DPO (Optimisation des Préférences Directes)Une méthode de formation qui affine les modèles directement sur les paires de préférences sans avoir besoin d'un modèle de récompense distinct.Apprentissage continuDes approches de formation qui permettent à un modèle de continuer à apprendre de nouvelles données sans oublier les connaissances antérieures.Apprentissage en quelques coupsApprendre ou adapter un comportement à partir d’un petit nombre d’exemples seulement.Dérive du modèleDégradation des performances au fil du temps, à mesure que les conditions réelles s'écartent des hypothèses de formation.

Apprenez-en davantage dans nos guides gratuits

Deep LearningReinforcement LearningMachine Learning BasicsSupervised Learning

Voir aussi

RetrievalRed TeamingRecommendation SystemRobustnessRecallSafety FilterRAG (Retrieval-Augmented Generation)Scaling Law