Test legat de ghid · Mediu Nivel
Test de modelare a recompenselor
Test reward-model scores, preference data, pairwise ranking loss, reward hacking, and best-of-N use in RLHF. Check assumptions and scope.
Întrebare 1 de 8
Care este rezultatul principal al unui model de recompensă pentru o anumită pereche de răspuns prompt?
Previzualizează fiecare întrebare8 întrebări
Răspunsurile și explicațiile apar pe măsură ce susțineți testul.
- Care este rezultatul principal al unui model de recompensă pentru o anumită pereche de răspuns prompt?
- Un singur scor scalar
- Un răspuns text integral
- O distribuție de probabilitate pe vocabular
- O listă de jetoane preferate
- What feedback format did the InstructGPT paper collect to train its reward model?
- A guaranteed correctness label for every possible answer
- Human rankings of several model responses, converted into pairwise preferences
- A single sentiment score for each training prompt
- Only binary safety labels with no response comparisons
- Ce optimizează pierderea modelului standard de recompensă?
- Valoarea recompensă absolută a fiecărui răspuns
- Precizia predicției următoarei simboluri
- Că răspunsul ales are scoruri mai mari decât cel respins
- Lungimea răspunsurilor
- Ce este „hackingul recompenselor”?
- Furarea modelului de recompensă al unui concurent
- O metodă de accelerare a antrenamentului
- Criptarea semnalului de recompensă
- Politica exploatează defectele modelului de recompensă pentru a obține scoruri mari fără o calitate autentică
- Cum este un model de recompensă derivat din punct de vedere arhitectural dintr-un model lingvistic?
- Prin înlocuirea capului de predicție a simbolului cu un singur cap de ieșire scalar
- Adăugând mai multe straturi de atenție
- Prin îndepărtarea tuturor straturilor de transformator
- Prin dublarea vocabularului
- Cum este utilizat un model de recompensă la momentul inferenței în eșantionarea best-of-N?
- Training N modele de recompensă în paralel
- Generarea de răspunsuri multiple și utilizarea modelului de recompensă pentru a-l alege pe cel cu cel mai mare scor
- Selectarea celor N cele mai comune jetoane
- Medierea N puncte de control al modelului
- Why might an RLHF study use an ensemble of reward models during training?
- To guarantee that reward hacking is impossible
- To replace the human preference data with exact correctness labels
- To estimate disagreement or uncertainty across learned preference scorers
- To ensure every candidate receives the same score
- Why should reward-model evaluations include held-out comparisons?
- To ensure training comparisons are never used
- To make every output identical
- To guarantee the reward is unbiased
- To test whether preferences generalize beyond the training comparisons