Cuestionario vinculado a una guía · Medio Nivel

Prueba de fragmentación de puntos de control y entrenamiento reanudable

Practique metadatos de puntos de control, recuperación del estado de entrenamiento y validación de reinicio, incluida la diferencia entre fragmentos de peso y estado reanudable.

Pregunta 1 de 8

¿Por qué los puntos de control de modelos grandes se dividen en fragmentos?

Vista previa de cada pregunta8 preguntas

Las respuestas y explicaciones aparecen a medida que realiza el cuestionario.

  1. ¿Por qué los puntos de control de modelos grandes se dividen en fragmentos?
    • Para hacer que el modelo se entrene más rápido con entradas pequeñas
    • Para ocultar los pesos del modelo a los usuarios
    • Porque la fragmentación mejora la precisión
    • Porque un solo punto de control puede ser demasiado grande para que un archivo o una máquina lo maneje de manera eficiente
  2. Which extra state is typically needed for training resumption beyond model weights?
    • Sólo la puntuación de precisión final
    • Optimizer and scheduler state, step progress, RNG state, and relevant data-loader progress
    • Only a model-weight shard index
    • A screenshot of the training dashboard
  3. ¿Cuál es el principal beneficio de la formación reanudable para trabajos de larga duración?
    • Elimina la necesidad de un conjunto de validación.
    • Garantiza que el modelo nunca se sobreajuste
    • Un bloqueo o una preferencia no obligan a reiniciar desde cero
    • Elimina el optimizador.
  4. In a sharded distributed checkpoint, how can ranks avoid gathering the entire state on one worker?
    • By saving their assigned local tensor shards with checkpoint metadata
    • By each emailing a full model copy
    • By deleting optimizer state before every save
    • By disabling all state serialization
  5. ¿Qué papel juega un archivo de índice en los puntos de control fragmentados?
    • Almacena la contraseña del usuario.
    • Asigna cada nombre de parámetro al archivo de fragmento que lo contiene.
    • Comprime las imágenes en el conjunto de datos.
    • Programa la tasa de aprendizaje.
  6. ¿Qué formato se utiliza habitualmente para la carga segura de fragmentos de modelo mapeados en memoria?
    • MP3
    • CSV
    • tensores de seguridad
    • Archivos solo ZIP
  7. A package contains safetensors weight shards and an index, but no optimizer state. What can it support by itself?
    • Loading model weights, without fully restoring optimizer training history
    • Guaranteed exact resumption of every interrupted run
    • Recovering the next batch position automatically
    • Reconstructing every random-number-generator state
  8. A sharded checkpoint loader supports a new rank layout. What should the team verify before trusting recovery?
    • That fewer ranks guarantee identical floating-point results
    • That the weight index alone includes every application state
    • That no restart test is necessary
    • That the necessary saved state loads correctly and the resumed training step behaves as expected