Vad är Reinforcement Learning from Human Feedback (RLHF)?

Träning genom belöningssignaler där en agent lär sig handlingar som maximerar långsiktig avkastning.

En modell som ger utdata baserat på preferenssignaler, som ofta används i RLHF-pipelines.

En träningsmetod som finjusterar modeller direkt på preferenspar utan att behöva en separat belöningsmodell.

Utbildningsmetoder som låter en modell fortsätta att lära sig av ny data utan att glömma förkunskaper.

Att lära sig eller anpassa beteendet från endast ett litet antal exempel.

Prestandaförsämring över tid eftersom verkliga förhållanden avviker från träningsantaganden.