Quiz collegato alla guida · Medio Livello
Quiz sullo sharding del checkpoint e sulla formazione ripristinabile
Esercitati sui metadati del checkpoint, sul recupero dello stato di addestramento e sulla convalida del riavvio, inclusa la differenza tra i frammenti di peso e lo stato ripristinabile.
Domanda 1 di 8
Perché i checkpoint di grandi dimensioni sono divisi in frammenti?
Anteprima di ogni domanda8 domande
Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.
- Perché i checkpoint di grandi dimensioni sono divisi in frammenti?
- Per rendere il modello più veloce nell'addestramento su piccoli input
- Per nascondere i pesi del modello agli utenti
- Perché lo sharding migliora la precisione
- Perché un singolo checkpoint può essere troppo grande per essere gestito in modo efficiente da un file o da una macchina
- Which extra state is typically needed for training resumption beyond model weights?
- Solo il punteggio di precisione finale
- Optimizer and scheduler state, step progress, RNG state, and relevant data-loader progress
- Only a model-weight shard index
- A screenshot of the training dashboard
- Qual è il vantaggio principale della formazione recuperabile per i lavori di lunga durata?
- Elimina la necessità di un set di convalida
- Garantisce che il modello non vesta mai troppo
- Un arresto anomalo o una prelazione non forzano il riavvio da zero
- Elimina l'ottimizzatore
- In a sharded distributed checkpoint, how can ranks avoid gathering the entire state on one worker?
- By saving their assigned local tensor shards with checkpoint metadata
- By each emailing a full model copy
- By deleting optimizer state before every save
- By disabling all state serialization
- Che ruolo gioca un file indice nei checkpoint partizionati?
- Memorizza la password dell'utente
- Mappa il nome di ogni parametro sul file shard che lo contiene
- Comprime le immagini nel set di dati
- Pianifica il tasso di apprendimento
- Quale formato viene comunemente utilizzato per il caricamento sicuro e mappato in memoria dei frammenti del modello?
- MP3
- CSV
- sicuritensori
- Archivi solo ZIP
- A package contains safetensors weight shards and an index, but no optimizer state. What can it support by itself?
- Loading model weights, without fully restoring optimizer training history
- Guaranteed exact resumption of every interrupted run
- Recovering the next batch position automatically
- Reconstructing every random-number-generator state
- A sharded checkpoint loader supports a new rank layout. What should the team verify before trusting recovery?
- That fewer ranks guarantee identical floating-point results
- That the weight index alone includes every application state
- That no restart test is necessary
- That the necessary saved state loads correctly and the resumed training step behaves as expected