Quiz połączony z przewodnikiem · Średni Poziom
Quiz szkoleniowy dotyczący fragmentowania punktów kontrolnych i możliwości wznowienia
Przećwicz metadane punktu kontrolnego, odzyskiwanie stanu szkoleniowego i weryfikację ponownego uruchomienia, w tym różnicę między fragmentami wagi a stanem umożliwiającym wznowienie.
Pytanie 1 z 8
Dlaczego punkty kontrolne dużych modeli są podzielone na fragmenty?
Podgląd każdego pytania8 pytania
Odpowiedzi i wyjaśnienia pojawiają się w miarę rozwiązywania quizu.
- Dlaczego punkty kontrolne dużych modeli są podzielone na fragmenty?
- Aby model trenował szybciej przy małych nakładach
- Aby ukryć ciężary modelu przed użytkownikami
- Ponieważ sharding poprawia dokładność
- Ponieważ pojedynczy punkt kontrolny może być zbyt duży, aby jeden plik lub maszyna mogła go skutecznie obsłużyć
- Which extra state is typically needed for training resumption beyond model weights?
- Tylko ostateczny wynik dokładności
- Optimizer and scheduler state, step progress, RNG state, and relevant data-loader progress
- Only a model-weight shard index
- A screenshot of the training dashboard
- Jaka jest główna korzyść ze szkolenia z możliwością wznawiania w przypadku długich stanowisk pracy?
- Eliminuje to potrzebę stosowania zestawu walidacyjnego
- Gwarantuje, że model nigdy się nie przeciąży
- Awaria lub wywłaszczenie nie wymusza ponownego uruchomienia od zera
- Eliminuje optymalizator
- In a sharded distributed checkpoint, how can ranks avoid gathering the entire state on one worker?
- By saving their assigned local tensor shards with checkpoint metadata
- By each emailing a full model copy
- By deleting optimizer state before every save
- By disabling all state serialization
- Jaką rolę odgrywa plik indeksu w podzielonych na fragmenty punktach kontrolnych?
- Przechowuje hasło użytkownika
- Mapuje każdą nazwę parametru na plik fragmentu, który ją zawiera
- Kompresuje obrazy w zestawie danych
- Planuje tempo uczenia się
- Jaki format jest powszechnie używany do bezpiecznego ładowania fragmentów modelu mapowanych w pamięci?
- MP3
- CSV
- bezpieczniki
- Archiwa tylko w formacie ZIP
- A package contains safetensors weight shards and an index, but no optimizer state. What can it support by itself?
- Loading model weights, without fully restoring optimizer training history
- Guaranteed exact resumption of every interrupted run
- Recovering the next batch position automatically
- Reconstructing every random-number-generator state
- A sharded checkpoint loader supports a new rank layout. What should the team verify before trusting recovery?
- That fewer ranks guarantee identical floating-point results
- That the weight index alone includes every application state
- That no restart test is necessary
- That the necessary saved state loads correctly and the resumed training step behaves as expected