Quiz de réglage fin de l'échantillonnage de rejet

Les réponses et les explications apparaissent au fur et à mesure que vous répondez au quiz.

1. Which loop best describes how Rejection Sampling Fine-Tuning improves a model?
   • Générez de nombreuses réponses de candidats, conservez celles qui obtiennent les meilleurs scores et recyclez-les
   • Supprimer les couches de modèle les moins performantes
   • Rejetez toutes les données d'entraînement et recommencez
   • Échantillonnez une fois et acceptez toujours le résultat
2. Dans des domaines vérifiables comme les mathématiques ou le code, qu’est-ce qui peut servir de récompense ?
   • Un modèle de récompense appris uniquement
   • Si la réponse est correcte ou si les tests réussissent
   • La longueur de la réponse
   • Le nombre de jetons générés
3. Which model family does the cited paper describe using rejection sampling in its alignment pipeline?
   • GPT-4o
   • BERT Base
   • Meta’s Llama 2-Chat
   • Whisper Large
4. Why might a team choose rejection-sampling fine-tuning over a policy-gradient approach for some tasks?
   • It never needs a candidate generator or scoring rule
   • It guarantees no reward hacking
   • It always requires less compute than every RL method
   • It can use supervised learning on selected generations instead of updating through policy-gradient RL
5. La formation sur les échantillons à récompense maximale fait effectivement quoi ?
   • Distille la meilleure qualité de N dans les sorties à échantillon unique du modèle
   • Augmente la taille du vocabulaire
   • Supprime la capacité du modèle à générer du texte
   • Double le nombre de paramètres
6. What should teams monitor when repeatedly fine-tuning on filtered model-generated outputs?
   • Seul le nombre de paramètres du modèle
   • Output diversity alongside held-out correctness
   • Whether every answer uses the same wording
   • Only the training loss on selected samples
7. What is a limitation of rejection-sampling fine-tuning’s candidate selection?
   • It can only be used with image labels
   • It always changes the tokenizer
   • It cannot train on a high-quality answer that was never generated or retained
   • It makes the scoring function unnecessary
8. What risk arises if the scoring model used to filter candidates is flawed?
   • The policy becomes unable to generate any text
   • The tokenizer automatically changes vocabulary
   • The reference labels become unnecessary
   • The policy may learn to exploit the scorer rather than improve the intended quality