Wat is Versterkend leren van menselijke feedback (RLHF)?

Training door beloningssignalen waarbij een agent acties leert die het rendement op de lange termijn maximaliseren.

Een model dat output scoort op basis van voorkeurssignalen, vaak gebruikt in RLHF-pijplijnen.

Een trainingsmethode die modellen rechtstreeks op voorkeursparen afstemt zonder dat een apart beloningsmodel nodig is.

Trainingsbenaderingen waarmee een model kan blijven leren van nieuwe gegevens zonder voorafgaande kennis te vergeten.

Gedrag leren of aanpassen vanuit slechts een klein aantal voorbeelden.

Prestatievermindering in de loop van de tijd, omdat de omstandigheden in de praktijk afwijken van de trainingsaannames.