Cuestionario vinculado a una guía · Medio Nivel

Supervisión de procesos para el cuestionario de razonamiento matemático

Examine la retroalimentación del proceso y los resultados, con etiquetas PRM800K, selección de candidatos, supervisión de Math-Shepherd y agregación de puntajes por pasos.

Pregunta 1 de 8

Where does process supervision provide feedback compared with outcome supervision?

Vista previa de cada pregunta8 preguntas

Las respuestas y explicaciones aparecen a medida que realiza el cuestionario.

  1. Where does process supervision provide feedback compared with outcome supervision?
    • Only at the physical GPU temperature
    • At intermediate reasoning steps rather than only the final result
    • Only at the document filename
    • Only at an increased vocabulary size
  2. ¿Por qué la supervisión basada únicamente en resultados puede ser engañosa en los problemas de matemáticas?
    • Es demasiado lento para calcular
    • No puede manejar decimales.
    • Requiere calificadores humanos para cada problema
    • Un modelo puede llegar a la respuesta correcta a través de pasos defectuosos que se cancelan.
  3. ¿Qué publicó OpenAI junto con el trabajo 'Verifiquemos paso a paso'?
    • PRM800K, un conjunto de datos de ~800.000 etiquetas de nivel de paso
    • Una nueva arquitectura de GPU
    • El equipo de prueba GSM8K
    • Un motor de ajedrez
  4. In best-of-N math selection with a process reward model, what does the verifier do?
    • Guarantees that a correct candidate was generated
    • Changes every tokenizer token into a proof axiom
    • Scores generated candidate solutions under the chosen aggregation rule
    • Replaces the original problem with a translation
  5. ¿Qué enfoque reduce la necesidad de costosas etiquetas de pasos humanos?
    • Deshabilitar el modelo de recompensa por completo
    • Implementaciones de Monte Carlo que estiman el valor de cada paso automáticamente (por ejemplo, Math-Shepherd)
    • Usando solo la respuesta final
    • Formación en más idiomas
  6. What can low step-level verifier scores usefully indicate to someone reviewing a solution?
    • Steps that merit closer inspection
    • An infallible location of the first actual error
    • A mathematical proof that all other steps are correct
    • The exact temperature used to sample every token
  7. For step scores 0.9 and 0.8, what is the solution score under a product aggregation rule?
    • 0.8
    • 0.85
    • 1.7
    • 0.72
  8. Which data-selection strategy did Let’s Verify Step by Step study to improve labeling efficiency?
    • Choosing examples only by alphabetical filename order
    • Removing every incorrect-answer candidate from the labeling pool
    • Active learning that selected informative candidate solutions
    • Using an unlabeled test answer as the final human label