Supervision des processus pour le quiz de raisonnement mathématique

Les réponses et les explications apparaissent au fur et à mesure que vous répondez au quiz.

1. Where does process supervision provide feedback compared with outcome supervision?
   • Only at the physical GPU temperature
   • At intermediate reasoning steps rather than only the final result
   • Only at the document filename
   • Only at an increased vocabulary size
2. Pourquoi la supervision axée uniquement sur les résultats peut-elle être trompeuse pour les problèmes de mathématiques ?
   • C'est trop lent à calculer
   • Il ne peut pas gérer les décimales
   • Cela nécessite des évaluateurs humains pour chaque problème
   • Un modèle peut parvenir à la bonne réponse grâce à des étapes erronées qui s'annulent
3. Qu'est-ce que OpenAI a publié parallèlement au travail « Vérifions étape par étape » ?
   • PRM800K, un ensemble de données d'environ 800 000 étiquettes par étapes
   • Une nouvelle architecture GPU
   • L'ensemble de test GSM8K
   • Un moteur d'échecs
4. In best-of-N math selection with a process reward model, what does the verifier do?
   • Guarantees that a correct candidate was generated
   • Changes every tokenizer token into a proof axiom
   • Scores generated candidate solutions under the chosen aggregation rule
   • Replaces the original problem with a translation
5. Quelle approche réduit le besoin d’étiquettes coûteuses relatives aux étapes humaines ?
   • Désactiver complètement le modèle de récompense
   • Déploiements Monte Carlo qui estiment automatiquement la valeur de chaque étape (par exemple, Math-Shepherd)
   • Utiliser uniquement la réponse finale
   • Formation sur plus de langues
6. What can low step-level verifier scores usefully indicate to someone reviewing a solution?
   • Steps that merit closer inspection
   • An infallible location of the first actual error
   • A mathematical proof that all other steps are correct
   • The exact temperature used to sample every token
7. For step scores 0.9 and 0.8, what is the solution score under a product aggregation rule?
   • 0.8
   • 0.85
   • 1.7
   • 0.72
8. Which data-selection strategy did Let’s Verify Step by Step study to improve labeling efficiency?
   • Choosing examples only by alphabetical filename order
   • Removing every incorrect-answer candidate from the labeling pool
   • Active learning that selected informative candidate solutions
   • Using an unlabeled test answer as the final human label