Gids-gekoppelde quiz · Middelmatig Niveau
Checkpoint Sharding en hervatbare trainingsquiz
Oefen metagegevens van controlepunten, herstel van trainingsstatus en herstartvalidatie, inclusief het verschil tussen gewichtsscherven en hervatbare status.
Vraag 1 van 8
Waarom worden controlepunten van grote modellen in scherven opgesplitst?
Bekijk elke vraag8 vragen
Antwoorden en uitleg verschijnen terwijl je de quiz doet.
- Waarom worden controlepunten van grote modellen in scherven opgesplitst?
- Om het model sneller te laten trainen op kleine inputs
- Om de modelgewichten voor gebruikers te verbergen
- Omdat sharding de nauwkeurigheid verbetert
- Omdat één enkel controlepunt te groot kan zijn om één bestand of machine efficiënt te kunnen verwerken
- Which extra state is typically needed for training resumption beyond model weights?
- Alleen de uiteindelijke nauwkeurigheidsscore
- Optimizer and scheduler state, step progress, RNG state, and relevant data-loader progress
- Only a model-weight shard index
- A screenshot of the training dashboard
- Wat is het belangrijkste voordeel van een hervatbare opleiding voor lange banen?
- Het elimineert de noodzaak voor een validatieset
- Het garandeert dat het model nooit te veel past
- Een crash of voorrang dwingt niet tot opnieuw opstarten
- Het elimineert de optimalisatie
- In a sharded distributed checkpoint, how can ranks avoid gathering the entire state on one worker?
- By saving their assigned local tensor shards with checkpoint metadata
- By each emailing a full model copy
- By deleting optimizer state before every save
- By disabling all state serialization
- Welke rol speelt een indexbestand in gesharde controlepunten?
- Het slaat het wachtwoord van de gebruiker op
- Elke parameternaam wordt toegewezen aan het Shard-bestand dat deze bevat
- Het comprimeert de afbeeldingen in de dataset
- Het plant het leertempo
- Welk formaat wordt vaak gebruikt voor het veilig, in het geheugen toegewezen laden van modelscherven?
- MP3
- CSV
- veiligheidstensoren
- Alleen ZIP-archieven
- A package contains safetensors weight shards and an index, but no optimizer state. What can it support by itself?
- Loading model weights, without fully restoring optimizer training history
- Guaranteed exact resumption of every interrupted run
- Recovering the next batch position automatically
- Reconstructing every random-number-generator state
- A sharded checkpoint loader supports a new rank layout. What should the team verify before trusting recovery?
- That fewer ranks guarantee identical floating-point results
- That the weight index alone includes every application state
- That no restart test is necessary
- That the necessary saved state loads correctly and the resumed training step behaves as expected