চেকপয়েন্ট শার্ডিং এবং পুনরায় শুরুযোগ্য প্রশিক্ষণ কুইজ

আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।

1. কেন বড়-মডেল চেকপয়েন্টগুলিকে ভাগে ভাগ করা হয়?
   • ছোট ইনপুটগুলিতে মডেল ট্রেনটিকে দ্রুততর করতে
   • ব্যবহারকারীদের কাছ থেকে মডেল ওজন লুকাতে
   • কারণ শর্ডিং সঠিকতা উন্নত করে
   • কারণ একটি ফাইল বা মেশিন দক্ষতার সাথে পরিচালনা করার জন্য একটি একক চেকপয়েন্ট খুব বড় হতে পারে
2. Which extra state is typically needed for training resumption beyond model weights?
   • শুধুমাত্র চূড়ান্ত নির্ভুলতা স্কোর
   • Optimizer and scheduler state, step progress, RNG state, and relevant data-loader progress
   • Only a model-weight shard index
   • A screenshot of the training dashboard
3. দীর্ঘ চাকরির জন্য পুনরায় শুরুযোগ্য প্রশিক্ষণের প্রধান সুবিধা কী?
   • এটি একটি বৈধতা সেটের প্রয়োজনীয়তা দূর করে
   • এটি গ্যারান্টি দেয় যে মডেলটি কখনই ওভারফিট হবে না
   • একটি ক্র্যাশ বা প্রিম্পশন স্ক্র্যাচ থেকে পুনরায় চালু করতে বাধ্য করে না
   • এটি অপ্টিমাইজার দূর করে
4. In a sharded distributed checkpoint, how can ranks avoid gathering the entire state on one worker?
   • By saving their assigned local tensor shards with checkpoint metadata
   • By each emailing a full model copy
   • By deleting optimizer state before every save
   • By disabling all state serialization
5. একটি সূচী ফাইল শার্ড চেকপয়েন্টে কি ভূমিকা পালন করে?
   • এটি ব্যবহারকারীর পাসওয়ার্ড সংরক্ষণ করে
   • এটি প্রতিটি প্যারামিটারের নামকে শার্ড ফাইলে ম্যাপ করে যা এটি ধারণ করে
   • এটি ডেটাসেটের ছবিগুলিকে সংকুচিত করে
   • এটি শেখার হার নির্ধারণ করে
6. মডেল শার্ডের নিরাপদ, মেমরি-ম্যাপড লোডিংয়ের জন্য সাধারণত কোন বিন্যাসটি ব্যবহার করা হয়?
   • MP3
   • CSV
   • নিরাপদ
   • জিপ-শুধু আর্কাইভ
7. A package contains safetensors weight shards and an index, but no optimizer state. What can it support by itself?
   • Loading model weights, without fully restoring optimizer training history
   • Guaranteed exact resumption of every interrupted run
   • Recovering the next batch position automatically
   • Reconstructing every random-number-generator state
8. A sharded checkpoint loader supports a new rank layout. What should the team verify before trusting recovery?
   • That fewer ranks guarantee identical floating-point results
   • That the weight index alone includes every application state
   • That no restart test is necessary
   • That the necessary saved state loads correctly and the resumed training step behaves as expected