What is Reinforcement Learning from Human Feedback (RLHF)? Definition | AI Understanding

Definizione

Un metodo di training che utilizza segnali di preferenza umana per modellare il comportamento del modello.

Termini correlati

Apprendimento per rinforzo

Formazione tramite segnali di ricompensa in cui un agente apprende azioni che massimizzano il rendimento a lungo termine.

Modello di ricompensa

Un modello che assegna un punteggio agli output in base ai segnali di preferenza, spesso utilizzato nelle pipeline RLHF.

DPO (ottimizzazione delle preferenze dirette)

Un metodo di formazione che ottimizza i modelli direttamente sulle coppie di preferenze senza bisogno di un modello di ricompensa separato.

Apprendimento continuo

Approcci di formazione che consentono a un modello di continuare ad apprendere dai nuovi dati senza dimenticare le conoscenze precedenti.

Apprendimento con pochi colpi

Apprendere o adattare il comportamento solo da un numero limitato di esempi.

Deriva del modello

Degrado delle prestazioni nel tempo poiché le condizioni del mondo reale divergono dalle ipotesi di addestramento.

Scopri di più nelle nostre guide gratuite

Deep Learning Reinforcement Learning Machine Learning Basics Supervised Learning

Vedi anche

Retrieval Red Teaming Recommendation System Robustness Recall Safety Filter RAG (Retrieval-Augmented Generation)Scaling Law

Sfoglia il glossario completo dell'intelligenza artificiale Esplora tutte le guide gratuite sull'intelligenza artificiale