Gids-gekoppelde quiz · Middelmatig Niveau

Checkpoint Sharding en hervatbare trainingsquiz

Oefen metagegevens van controlepunten, herstel van trainingsstatus en herstartvalidatie, inclusief het verschil tussen gewichtsscherven en hervatbare status.

Vraag 1 van 8

Waarom worden controlepunten van grote modellen in scherven opgesplitst?

Bekijk elke vraag8 vragen

Antwoorden en uitleg verschijnen terwijl je de quiz doet.

  1. Waarom worden controlepunten van grote modellen in scherven opgesplitst?
    • Om het model sneller te laten trainen op kleine inputs
    • Om de modelgewichten voor gebruikers te verbergen
    • Omdat sharding de nauwkeurigheid verbetert
    • Omdat één enkel controlepunt te groot kan zijn om één bestand of machine efficiënt te kunnen verwerken
  2. Which extra state is typically needed for training resumption beyond model weights?
    • Alleen de uiteindelijke nauwkeurigheidsscore
    • Optimizer and scheduler state, step progress, RNG state, and relevant data-loader progress
    • Only a model-weight shard index
    • A screenshot of the training dashboard
  3. Wat is het belangrijkste voordeel van een hervatbare opleiding voor lange banen?
    • Het elimineert de noodzaak voor een validatieset
    • Het garandeert dat het model nooit te veel past
    • Een crash of voorrang dwingt niet tot opnieuw opstarten
    • Het elimineert de optimalisatie
  4. In a sharded distributed checkpoint, how can ranks avoid gathering the entire state on one worker?
    • By saving their assigned local tensor shards with checkpoint metadata
    • By each emailing a full model copy
    • By deleting optimizer state before every save
    • By disabling all state serialization
  5. Welke rol speelt een indexbestand in gesharde controlepunten?
    • Het slaat het wachtwoord van de gebruiker op
    • Elke parameternaam wordt toegewezen aan het Shard-bestand dat deze bevat
    • Het comprimeert de afbeeldingen in de dataset
    • Het plant het leertempo
  6. Welk formaat wordt vaak gebruikt voor het veilig, in het geheugen toegewezen laden van modelscherven?
    • MP3
    • CSV
    • veiligheidstensoren
    • Alleen ZIP-archieven
  7. A package contains safetensors weight shards and an index, but no optimizer state. What can it support by itself?
    • Loading model weights, without fully restoring optimizer training history
    • Guaranteed exact resumption of every interrupted run
    • Recovering the next batch position automatically
    • Reconstructing every random-number-generator state
  8. A sharded checkpoint loader supports a new rank layout. What should the team verify before trusting recovery?
    • That fewer ranks guarantee identical floating-point results
    • That the weight index alone includes every application state
    • That no restart test is necessary
    • That the necessary saved state loads correctly and the resumed training step behaves as expected