What is Reward Model? Definition | AI Understanding

Definición

Un modelo que califica las salidas en función de señales de preferencia, que se utiliza a menudo en las canalizaciones RLHF.

Términos relacionados

Aprendizaje reforzado a partir de la retroalimentación humana (RLHF)

Un método de entrenamiento que utiliza señales de preferencia humana para dar forma al comportamiento del modelo.

Aprendizaje por refuerzo

Entrenamiento mediante señales de recompensa donde un agente aprende acciones que maximizan el retorno a largo plazo.

Verdad fundamental

Etiquetas de referencia confiables utilizadas para entrenar o evaluar los resultados del modelo.

DPO (optimización de preferencias directas)

Un método de entrenamiento que afina los modelos directamente en pares de preferencias sin necesidad de un modelo de recompensa separado.

Entrenamiento medio

Una fase de entrenamiento intermedia entre el preentrenamiento y el post-entrenamiento, a menudo utilizada para ajustes de capacidad o dominio.

Un sistema de software que puede observar, razonar y tomar acciones para lograr un objetivo, a menudo utilizando herramientas y memoria.

Obtenga más información en nuestras guías gratuitas.

AI Models Explained Model Collapse Model Lifecycle Model Context Protocol

See also

Retrieval Robustness Safety Filter Scaling Law Red Teaming Semantic Search Recommendation System Self-Supervised Learning

Explore el glosario completo de IA Explora todas las guías gratuitas de IA