Término del glosario de IA

¿Qué es Modelo de recompensa?

Definición

Un modelo que califica las salidas en función de señales de preferencia, que se utiliza a menudo en las canalizaciones RLHF.

Explore el glosario completo de IAExplora todas las guías gratuitas de IA

Términos relacionados

Aprendizaje reforzado a partir de la retroalimentación humana (RLHF)Un método de entrenamiento que utiliza señales de preferencia humana para dar forma al comportamiento del modelo.Aprendizaje por refuerzoEntrenamiento mediante señales de recompensa donde un agente aprende acciones que maximizan el retorno a largo plazo.Verdad fundamentalEtiquetas de referencia confiables utilizadas para entrenar o evaluar los resultados del modelo.DPO (optimización de preferencias directas)Un método de entrenamiento que afina los modelos directamente en pares de preferencias sin necesidad de un modelo de recompensa separado.Entrenamiento medioUna fase de entrenamiento intermedia entre el preentrenamiento y el post-entrenamiento, a menudo utilizada para ajustes de capacidad o dominio.Agente de IAUn sistema de software que puede observar, razonar y tomar acciones para lograr un objetivo, a menudo utilizando herramientas y memoria.

Obtenga más información en nuestras guías gratuitas.

AI Models ExplainedModel CollapseModel LifecycleModel Context Protocol

Véase también

RetrievalRobustnessSafety FilterScaling LawRed TeamingSemantic SearchRecommendation SystemSelf-Supervised Learning