Спостереження за процесом для тесту Math Reasoning

Відповіді та пояснення з’являються під час виконання тесту.

1. Where does process supervision provide feedback compared with outcome supervision?
   • Only at the physical GPU temperature
   • At intermediate reasoning steps rather than only the final result
   • Only at the document filename
   • Only at an increased vocabulary size
2. Чому нагляд лише за результатами може ввести в оману для математичних завдань?
   • Це надто повільно для обчислення
   • Він не може обробляти десяткові дроби
   • Для кожної проблеми потрібні оцінювачі
   • Модель може досягти правильної відповіді через помилкові кроки, які випадково скасовуються
3. Що випустив OpenAI разом із функцією «Перевіримо крок за кроком»?
   • PRM800K, набір даних із ~800 000 міток рівня кроку
   • Нова архітектура GPU
   • Тестовий набір GSM8K
   • Шаховий двигун
4. In best-of-N math selection with a process reward model, what does the verifier do?
   • Guarantees that a correct candidate was generated
   • Changes every tokenizer token into a proof axiom
   • Scores generated candidate solutions under the chosen aggregation rule
   • Replaces the original problem with a translation
5. Який підхід зменшує потребу в дорогих мітках кроку людини?
   • Повністю вимкнути модель винагороди
   • Розгортання Монте-Карло, які автоматично оцінюють значення кожного кроку (наприклад, Math-Shepherd)
   • Використовуючи лише остаточну відповідь
   • Навчання більшій кількості мов
6. What can low step-level verifier scores usefully indicate to someone reviewing a solution?
   • Steps that merit closer inspection
   • An infallible location of the first actual error
   • A mathematical proof that all other steps are correct
   • The exact temperature used to sample every token
7. For step scores 0.9 and 0.8, what is the solution score under a product aggregation rule?
   • 0.8
   • 0.85
   • 1.7
   • 0.72
8. Which data-selection strategy did Let’s Verify Step by Step study to improve labeling efficiency?
   • Choosing examples only by alphabetical filename order
   • Removing every incorrect-answer candidate from the labeling pool
   • Active learning that selected informative candidate solutions
   • Using an unlabeled test answer as the final human label