گائیڈ سے منسلک کوئز · درمیانہ سطح
چیک پوائنٹ شارڈنگ اور دوبارہ شروع کرنے کے قابل ٹریننگ کوئز
چیک پوائنٹ میٹا ڈیٹا، ٹریننگ سٹیٹ ریکوری، اور توثیق کو دوبارہ شروع کرنے کی مشق کریں، بشمول ویٹ شارڈز اور دوبارہ شروع ہونے والی حالت کے درمیان فرق۔
سوال 1 کی 8
بڑے ماڈل چوکیوں کو شارڈز میں کیوں تقسیم کیا جاتا ہے؟
ہر سوال کا جائزہ لیں۔8 سوالات
جب آپ کوئز دیتے ہیں تو جوابات اور وضاحتیں ظاہر ہوتی ہیں۔
- بڑے ماڈل چوکیوں کو شارڈز میں کیوں تقسیم کیا جاتا ہے؟
- چھوٹے ان پٹ پر ماڈل ٹرین کو تیز تر بنانے کے لیے
- صارفین سے ماڈل کے وزن کو چھپانے کے لیے
- کیونکہ شارڈنگ درستگی کو بہتر بناتی ہے۔
- کیونکہ ایک ہی چوکی ایک فائل یا مشین کے لیے اتنی بڑی ہو سکتی ہے کہ وہ موثر طریقے سے ہینڈل کر سکے۔
- Which extra state is typically needed for training resumption beyond model weights?
- صرف حتمی درستگی کا سکور
- Optimizer and scheduler state, step progress, RNG state, and relevant data-loader progress
- Only a model-weight shard index
- A screenshot of the training dashboard
- طویل ملازمتوں کے لیے دوبارہ شروع کی جانے والی تربیت کا بنیادی فائدہ کیا ہے؟
- یہ توثیق کے سیٹ کی ضرورت کو دور کرتا ہے۔
- یہ اس بات کی ضمانت دیتا ہے کہ ماڈل کبھی زیادہ فٹ نہیں ہوتا ہے۔
- کریش یا پریمپشن شروع سے دوبارہ شروع کرنے پر مجبور نہیں کرتا ہے۔
- یہ اصلاح کار کو ختم کرتا ہے۔
- In a sharded distributed checkpoint, how can ranks avoid gathering the entire state on one worker?
- By saving their assigned local tensor shards with checkpoint metadata
- By each emailing a full model copy
- By deleting optimizer state before every save
- By disabling all state serialization
- شارڈ چیک پوائنٹس میں انڈیکس فائل کیا کردار ادا کرتی ہے؟
- یہ صارف کا پاس ورڈ محفوظ کرتا ہے۔
- یہ ہر پیرامیٹر کے نام کو شارڈ فائل میں نقش کرتا ہے جس میں یہ شامل ہے۔
- یہ ڈیٹاسیٹ میں موجود تصاویر کو کمپریس کرتا ہے۔
- یہ سیکھنے کی شرح کو شیڈول کرتا ہے۔
- ماڈل شارڈز کی محفوظ، میموری میپڈ لوڈنگ کے لیے عام طور پر کون سا فارمیٹ استعمال ہوتا ہے؟
- MP3
- CSV
- سیفٹینسرز
- صرف زپ آرکائیوز
- A package contains safetensors weight shards and an index, but no optimizer state. What can it support by itself?
- Loading model weights, without fully restoring optimizer training history
- Guaranteed exact resumption of every interrupted run
- Recovering the next batch position automatically
- Reconstructing every random-number-generator state
- A sharded checkpoint loader supports a new rank layout. What should the team verify before trusting recovery?
- That fewer ranks guarantee identical floating-point results
- That the weight index alone includes every application state
- That no restart test is necessary
- That the necessary saved state loads correctly and the resumed training step behaves as expected