गाइड से जुड़ी प्रश्नोत्तरी · मध्यम स्तर

चेकप्वाइंट शेयरिंग और पुनः प्रारंभ करने योग्य प्रशिक्षण प्रश्नोत्तरी

चेकपॉइंट मेटाडेटा, प्रशिक्षण-स्थिति पुनर्प्राप्ति और पुनरारंभ सत्यापन का अभ्यास करें, जिसमें वज़न शार्क और पुन: प्रारंभ करने योग्य स्थिति के बीच अंतर शामिल है।

प्रश्न 1 का 8

बड़े-मॉडल चौकियों को टुकड़ों में क्यों विभाजित किया जाता है?

प्रत्येक प्रश्न का पूर्वावलोकन करें8 प्रश्न

जैसे ही आप प्रश्नोत्तरी लेते हैं उत्तर और स्पष्टीकरण दिखाई देते हैं।

  1. बड़े-मॉडल चौकियों को टुकड़ों में क्यों विभाजित किया जाता है?
    • छोटे इनपुट पर मॉडल ट्रेन को तेज़ बनाना
    • उपयोगकर्ताओं से मॉडल वजन छिपाने के लिए
    • क्योंकि शार्डिंग से सटीकता में सुधार होता है
    • क्योंकि एक फ़ाइल या मशीन को कुशलतापूर्वक संभालने के लिए एक एकल चेकपॉइंट बहुत बड़ा हो सकता है
  2. Which extra state is typically needed for training resumption beyond model weights?
    • केवल अंतिम सटीकता स्कोर
    • Optimizer and scheduler state, step progress, RNG state, and relevant data-loader progress
    • Only a model-weight shard index
    • A screenshot of the training dashboard
  3. लंबी नौकरियों के लिए पुनः प्रारंभ प्रशिक्षण का मुख्य लाभ क्या है?
    • यह सत्यापन सेट की आवश्यकता को हटा देता है
    • यह गारंटी देता है कि मॉडल कभी भी ओवरफिट नहीं होगा
    • क्रैश या प्रीएम्प्शन स्क्रैच से पुनरारंभ करने के लिए बाध्य नहीं करता है
    • यह अनुकूलक को समाप्त कर देता है
  4. In a sharded distributed checkpoint, how can ranks avoid gathering the entire state on one worker?
    • By saving their assigned local tensor shards with checkpoint metadata
    • By each emailing a full model copy
    • By deleting optimizer state before every save
    • By disabling all state serialization
  5. शार्प्ड चेकपॉइंट्स में इंडेक्स फ़ाइल क्या भूमिका निभाती है?
    • यह उपयोगकर्ता का पासवर्ड संग्रहीत करता है
    • यह प्रत्येक पैरामीटर नाम को उस शार्ड फ़ाइल में मैप करता है जिसमें वह शामिल है
    • यह डेटासेट में छवियों को संपीड़ित करता है
    • यह सीखने की दर को निर्धारित करता है
  6. मॉडल शार्ड की सुरक्षित, मेमोरी-मैप्ड लोडिंग के लिए आमतौर पर किस प्रारूप का उपयोग किया जाता है?
    • एमपी3
    • सीएसवी
    • सुरक्षा सेंसर
    • ज़िप-केवल पुरालेख
  7. A package contains safetensors weight shards and an index, but no optimizer state. What can it support by itself?
    • Loading model weights, without fully restoring optimizer training history
    • Guaranteed exact resumption of every interrupted run
    • Recovering the next batch position automatically
    • Reconstructing every random-number-generator state
  8. A sharded checkpoint loader supports a new rank layout. What should the team verify before trusting recovery?
    • That fewer ranks guarantee identical floating-point results
    • That the weight index alone includes every application state
    • That no restart test is necessary
    • That the necessary saved state loads correctly and the resumed training step behaves as expected