Quiz collegato alla guida · Medio Livello

Quiz sullo sharding del checkpoint e sulla formazione ripristinabile

Esercitati sui metadati del checkpoint, sul recupero dello stato di addestramento e sulla convalida del riavvio, inclusa la differenza tra i frammenti di peso e lo stato ripristinabile.

Domanda 1 di 8

Perché i checkpoint di grandi dimensioni sono divisi in frammenti?

Anteprima di ogni domanda8 domande

Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.

  1. Perché i checkpoint di grandi dimensioni sono divisi in frammenti?
    • Per rendere il modello più veloce nell'addestramento su piccoli input
    • Per nascondere i pesi del modello agli utenti
    • Perché lo sharding migliora la precisione
    • Perché un singolo checkpoint può essere troppo grande per essere gestito in modo efficiente da un file o da una macchina
  2. Which extra state is typically needed for training resumption beyond model weights?
    • Solo il punteggio di precisione finale
    • Optimizer and scheduler state, step progress, RNG state, and relevant data-loader progress
    • Only a model-weight shard index
    • A screenshot of the training dashboard
  3. Qual è il vantaggio principale della formazione recuperabile per i lavori di lunga durata?
    • Elimina la necessità di un set di convalida
    • Garantisce che il modello non vesta mai troppo
    • Un arresto anomalo o una prelazione non forzano il riavvio da zero
    • Elimina l'ottimizzatore
  4. In a sharded distributed checkpoint, how can ranks avoid gathering the entire state on one worker?
    • By saving their assigned local tensor shards with checkpoint metadata
    • By each emailing a full model copy
    • By deleting optimizer state before every save
    • By disabling all state serialization
  5. Che ruolo gioca un file indice nei checkpoint partizionati?
    • Memorizza la password dell'utente
    • Mappa il nome di ogni parametro sul file shard che lo contiene
    • Comprime le immagini nel set di dati
    • Pianifica il tasso di apprendimento
  6. Quale formato viene comunemente utilizzato per il caricamento sicuro e mappato in memoria dei frammenti del modello?
    • MP3
    • CSV
    • sicuritensori
    • Archivi solo ZIP
  7. A package contains safetensors weight shards and an index, but no optimizer state. What can it support by itself?
    • Loading model weights, without fully restoring optimizer training history
    • Guaranteed exact resumption of every interrupted run
    • Recovering the next batch position automatically
    • Reconstructing every random-number-generator state
  8. A sharded checkpoint loader supports a new rank layout. What should the team verify before trusting recovery?
    • That fewer ranks guarantee identical floating-point results
    • That the weight index alone includes every application state
    • That no restart test is necessary
    • That the necessary saved state loads correctly and the resumed training step behaves as expected