গাইড লিঙ্ক ক্যুইজ · মাঝারি স্তর

চিনচিলা স্কেলিং আইন ক্যুইজ

পরীক্ষা করুন চিনচিলা প্রশিক্ষণ-বাজেট ফলাফল, 70B/1.4T উদাহরণ, স্কেলিং অনুপাত, আনুমানিক গণনা, এবং স্থাপনা অপ্টিমাইজেশান থেকে পার্থক্য।

সম্পর্কিত গাইড পাথচিনচিলা স্কেলিং আইন
প্রশ্ন 1 এর 8

What does Chinchilla's finding that parameters and tokens should scale in similar proportions mean?

প্রতিটি প্রশ্নের পূর্বরূপ দেখুন8 প্রশ্ন

আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।

  1. What does Chinchilla's finding that parameters and tokens should scale in similar proportions mean?
    • Both should grow with comparable scaling exponents under the studied training-compute objective
    • The numerical token count must equal the parameter count
    • Training data does not affect the fitted loss
    • Every deployment must choose the largest possible model
  2. What token-per-parameter ratio does the 70B-parameter, 1.4T-token Chinchilla experiment illustrate?
    • Exactly one token per parameter
    • About two thousand tokens per parameter
    • About twenty training tokens per parameter
    • A ratio determined only by the number of GPUs
  3. চিনচিলা অনেক ছোট হওয়া সত্ত্বেও কোন মডেলকে ছাড়িয়ে গেছে?
    • GPT-2
    • গোফার
    • BERT
    • মাম্বা
  4. চিনচিলা সেই সময়ে GPT-3 এর মতো মডেল সম্পর্কে কী বোঝায়?
    • তাদের অতিরিক্ত প্রশিক্ষণ দেওয়া হয়েছিল
    • তারা খুব কম গণনা উপলব্ধ ছিল
    • তারা ভুল টোকেনাইজার ব্যবহার করেছে
    • তারা তাদের আকার আপেক্ষিক undertrained ছিল
  5. চিনচিলা বিশ্লেষণে মোটামুটিভাবে কীভাবে গণনা করা হয়েছিল?
    • শুধুমাত্র GPU সংখ্যার সমানুপাতিক
    • ডেটা আকারের থেকে স্বাধীন
    • পরামিতি সময় প্রশিক্ষণ টোকেন সমানুপাতিক
    • শব্দভান্ডার আকারের সমানুপাতিক
  6. Why might a deployment objective favor a smaller model trained on extra data rather than the training-compute optimum alone?
    • Repeated inference costs can matter alongside the initial training budget
    • Inference has no resource cost for any model
    • The Chinchilla study proved every scaling relationship false
    • More data always reduces both training and serving work to zero
  7. Under the approximation that training compute is proportional to N times D, how must D change if N doubles while that compute budget stays fixed?
    • D must also double
    • D must quadruple
    • D must remain unchanged
    • D must approximately halve
  8. Which three types of term appear in Chinchilla’s parametric loss fit?
    • Only GPU count, electricity price, and elapsed seconds
    • An irreducible base term, a model-size contribution, and a data-size contribution
    • Only vocabulary size, file size, and model name
    • Only a linear token count with no model-size term