What is Reinforcement Learning from Human Feedback (RLHF)? Definition | AI Understanding

Definiție

O metodă de antrenament care utilizează semnale de preferințe umane pentru a modela comportamentul modelului.

Termeni înrudiți

Învățare prin întărire

Antrenamentul prin recompensă semnalează în cazul în care un agent învață acțiuni care maximizează rentabilitatea pe termen lung.

Model de recompensă

Un model care punctează ieșirile pe baza semnalelor de preferință, adesea folosit în conductele RLHF.

DPO (Optimizare directă a preferințelor)

O metodă de antrenament care ajustează modelele direct pe perechile de preferințe, fără a avea nevoie de un model de recompensă separat.

Învățare continuă

Abordări de formare care permit unui model să continue să învețe din date noi, fără a uita cunoștințele anterioare.

Învățare cu câteva lovituri

Învățarea sau adaptarea comportamentului dintr-un număr mic de exemple.

Degradarea performanței în timp, deoarece condițiile din lumea reală diferă de ipotezele de antrenament.

Aflați mai multe în ghidurile noastre gratuite

Deep Learning Reinforcement Learning Machine Learning Basics Supervised Learning

Vezi și

Retrieval Red Teaming Recommendation System Robustness Recall Safety Filter RAG (Retrieval-Augmented Generation)Scaling Law

Răsfoiți întregul glosar AI Explorați toate ghidurile AI gratuite