Término del glosario de IA

¿Qué es Modelo de preferencia humana?

Definición

Un modelo entrenado en clasificaciones humanas para predecir qué respuestas probablemente preferirán los usuarios.

Explore el glosario completo de IAExplora todas las guías gratuitas de IA

Términos relacionados

Aprendizaje reforzado a partir de la retroalimentación humana (RLHF)Un método de entrenamiento que utiliza señales de preferencia humana para dar forma al comportamiento del modelo.Humano en el circuitoUn flujo de trabajo en el que los humanos revisan, guían o anulan los resultados de la IA.AGI (Inteligencia General Artificial)Un hipotético sistema de IA que puede realizar la mayoría de las tareas intelectuales a nivel humano en muchos dominios.Alineación de IAEl trabajo de hacer que los sistemas de IA se comporten de acuerdo con las intenciones, los valores y las limitaciones de seguridad humanos.Transparencia algorítmicaCon qué claridad están documentadas y son comprensibles la lógica, las fuentes de datos y las limitaciones de un sistema de IA.AnotaciónEtiquetas o metadatos agregados por humanos que se utilizan para entrenar o evaluar modelos de aprendizaje automático.

Obtenga más información en nuestras guías gratuitas.

AI Models ExplainedModel CollapseModel LifecycleHuman-AI Collaboration

Véase también

Guarded DecodingInference EndpointGroundednessKnowledge BaseFeature StoreLatent SpaceEval HarnessModel Registry