Nadzór procesu w quizie dotyczącym rozumowania matematycznego

Odpowiedzi i wyjaśnienia pojawiają się w miarę rozwiązywania quizu.

1. Where does process supervision provide feedback compared with outcome supervision?
   • Only at the physical GPU temperature
   • At intermediate reasoning steps rather than only the final result
   • Only at the document filename
   • Only at an increased vocabulary size
2. Dlaczego superwizja skupiająca się wyłącznie na wynikach może wprowadzać w błąd w przypadku problemów matematycznych?
   • Obliczenia są zbyt wolne
   • Nie radzi sobie z ułamkami dziesiętnymi
   • Do każdego problemu potrzebne są osoby oceniające
   • Model może uzyskać właściwą odpowiedź, wykonując błędne kroki, które przypadkowo się znoszą
3. Co wypuściło OpenAI wraz z pracą „Sprawdźmy krok po kroku”?
   • PRM800K, zbiór danych zawierający ~800 000 etykiet na poziomie kroku
   • Nowa architektura GPU
   • Zestaw testowy GSM8K
   • Silnik szachowy
4. In best-of-N math selection with a process reward model, what does the verifier do?
   • Guarantees that a correct candidate was generated
   • Changes every tokenizer token into a proof axiom
   • Scores generated candidate solutions under the chosen aggregation rule
   • Replaces the original problem with a translation
5. Jakie podejście zmniejsza potrzebę stosowania drogich etykiet z udziałem człowieka?
   • Całkowite wyłączenie modelu nagrody
   • Wdrożenia Monte Carlo, które automatycznie szacują wartość każdego kroku (np. Math-Shepherd)
   • Używając tylko ostatecznej odpowiedzi
   • Szkolenia z większej liczby języków
6. What can low step-level verifier scores usefully indicate to someone reviewing a solution?
   • Steps that merit closer inspection
   • An infallible location of the first actual error
   • A mathematical proof that all other steps are correct
   • The exact temperature used to sample every token
7. For step scores 0.9 and 0.8, what is the solution score under a product aggregation rule?
   • 0,8
   • 0.85
   • 1.7
   • 0.72
8. Which data-selection strategy did Let’s Verify Step by Step study to improve labeling efficiency?
   • Choosing examples only by alphabetical filename order
   • Removing every incorrect-answer candidate from the labeling pool
   • Active learning that selected informative candidate solutions
   • Using an unlabeled test answer as the final human label