Terme du glossaire IA

Qu’est-ce que Modèle de préférence humaine ?

Définition

Un modèle formé sur les classements humains pour prédire quelles réponses les utilisateurs sont susceptibles de préférer.

Parcourez le glossaire complet de l'IAExplorez tous les guides gratuits sur l'IA

Termes associés

Apprentissage par renforcement à partir de la rétroaction humaine (RLHF)Une méthode de formation qui utilise les signaux de préférence humaine pour façonner le comportement du modèle.Humain dans la boucleUn flux de travail dans lequel les humains examinent, guident ou remplacent les sorties de l'IA.AGI (Intelligence Générale Artificielle)Un système d’IA hypothétique capable d’effectuer la plupart des tâches intellectuelles au niveau humain dans de nombreux domaines.Alignement de l'IALe travail consistant à faire en sorte que les systèmes d’IA se comportent conformément aux intentions, aux valeurs et aux contraintes de sécurité humaines.Transparence algorithmiqueDans quelle mesure la logique, les sources de données et les limites d'un système d'IA sont documentées et compréhensibles.AnnotationsÉtiquettes ou métadonnées ajoutées par l’homme utilisées pour entraîner ou évaluer des modèles d’apprentissage automatique.

Apprenez-en davantage dans nos guides gratuits

AI Models ExplainedModel CollapseModel LifecycleHuman-AI Collaboration

Voir aussi

Guarded DecodingInference EndpointGroundednessKnowledge BaseFeature StoreLatent SpaceEval HarnessModel Registry