What is Reward Model? Definition | AI Understanding

Definizione

Un modello che assegna un punteggio agli output in base ai segnali di preferenza, spesso utilizzato nelle pipeline RLHF.

Termini correlati

Apprendimento per rinforzo dal feedback umano (RLHF)

Un metodo di training che utilizza segnali di preferenza umana per modellare il comportamento del modello.

Apprendimento per rinforzo

Formazione tramite segnali di ricompensa in cui un agente apprende azioni che massimizzano il rendimento a lungo termine.

Verità fondamentale

Etichette di riferimento affidabili utilizzate per addestrare o valutare gli output del modello.

DPO (ottimizzazione delle preferenze dirette)

Un metodo di formazione che ottimizza i modelli direttamente sulle coppie di preferenze senza bisogno di un modello di ricompensa separato.

A metà allenamento

Una fase di formazione intermedia tra pre-formazione e post-formazione, spesso utilizzata per adattamenti di capacità o domini.

Un sistema software in grado di osservare, ragionare e intraprendere azioni per raggiungere un obiettivo, spesso utilizzando strumenti e memoria.

Scopri di più nelle nostre guide gratuite

AI Models Explained Model Collapse Model Lifecycle Model Context Protocol

Vedi anche

Retrieval Robustness Safety Filter Scaling Law Red Teaming Semantic Search Recommendation System Self-Supervised Learning

Sfoglia il glossario completo dell'intelligenza artificiale Esplora tutte le guide gratuite sull'intelligenza artificiale