Término del glosario de IA

¿Qué es Aprendizaje reforzado a partir de la retroalimentación humana (RLHF)?

Definición

Un método de entrenamiento que utiliza señales de preferencia humana para dar forma al comportamiento del modelo.

Explore el glosario completo de IAExplora todas las guías gratuitas de IA

Términos relacionados

Aprendizaje por refuerzoEntrenamiento mediante señales de recompensa donde un agente aprende acciones que maximizan el retorno a largo plazo.Modelo de recompensaUn modelo que califica las salidas en función de señales de preferencia, que se utiliza a menudo en las canalizaciones RLHF.DPO (optimización de preferencias directas)Un método de entrenamiento que afina los modelos directamente en pares de preferencias sin necesidad de un modelo de recompensa separado.Aprendizaje continuoEnfoques de entrenamiento que permiten que un modelo siga aprendiendo de nuevos datos sin olvidar el conocimiento previo.Aprendizaje en pocas oportunidadesAprender o adaptar el comportamiento a partir de sólo un pequeño número de ejemplos.Deriva del modeloDegradación del rendimiento con el tiempo a medida que las condiciones del mundo real difieren de los supuestos de entrenamiento.

Obtenga más información en nuestras guías gratuitas.

Deep LearningReinforcement LearningMachine Learning BasicsSupervised Learning

Véase también

RetrievalRed TeamingRecommendation SystemRobustnessRecallSafety FilterRAG (Retrieval-Augmented Generation)Scaling Law