Termen de glosar AI

Ce este Model de recompensă?

Definiție

Un model care punctează ieșirile pe baza semnalelor de preferință, adesea folosit în conductele RLHF.

Termeni înrudiți

Învățare prin consolidare din feedbackul uman (RLHF)
O metodă de antrenament care utilizează semnale de preferințe umane pentru a modela comportamentul modelului.
Învățare prin întărire
Antrenamentul prin recompensă semnalează în cazul în care un agent învață acțiuni care maximizează rentabilitatea pe termen lung.
Adevărul de bază
Etichete de referință de încredere utilizate pentru instruirea sau evaluarea rezultatelor modelului.
DPO (Optimizare directă a preferințelor)
O metodă de antrenament care ajustează modelele direct pe perechile de preferințe, fără a avea nevoie de un model de recompensă separat.
La mijlocul antrenamentului
O fază intermediară de antrenament între pretraining și post-training, adesea folosită pentru ajustări de capacitate sau de domeniu.
Agent AI
Un sistem software care poate observa, raționa și întreprinde acțiuni pentru a atinge un obiectiv, folosind adesea instrumente și memorie.

Aflați mai multe în ghidurile noastre gratuite

AI Models ExplainedModel CollapseModel LifecycleModel Context Protocol

Vezi și

RetrievalRobustnessSafety FilterScaling LawRed TeamingSemantic SearchRecommendation SystemSelf-Supervised Learning
Răsfoiți întregul glosar AIExplorați toate ghidurile AI gratuite