গাইড লিঙ্ক ক্যুইজ · মাঝারি স্তর
চিনচিলা স্কেলিং আইন ক্যুইজ
পরীক্ষা করুন চিনচিলা প্রশিক্ষণ-বাজেট ফলাফল, 70B/1.4T উদাহরণ, স্কেলিং অনুপাত, আনুমানিক গণনা, এবং স্থাপনা অপ্টিমাইজেশান থেকে পার্থক্য।
প্রশ্ন 1 এর 8
What does Chinchilla's finding that parameters and tokens should scale in similar proportions mean?
প্রতিটি প্রশ্নের পূর্বরূপ দেখুন8 প্রশ্ন
আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।
- What does Chinchilla's finding that parameters and tokens should scale in similar proportions mean?
- Both should grow with comparable scaling exponents under the studied training-compute objective
- The numerical token count must equal the parameter count
- Training data does not affect the fitted loss
- Every deployment must choose the largest possible model
- What token-per-parameter ratio does the 70B-parameter, 1.4T-token Chinchilla experiment illustrate?
- Exactly one token per parameter
- About two thousand tokens per parameter
- About twenty training tokens per parameter
- A ratio determined only by the number of GPUs
- চিনচিলা অনেক ছোট হওয়া সত্ত্বেও কোন মডেলকে ছাড়িয়ে গেছে?
- GPT-2
- গোফার
- BERT
- মাম্বা
- চিনচিলা সেই সময়ে GPT-3 এর মতো মডেল সম্পর্কে কী বোঝায়?
- তাদের অতিরিক্ত প্রশিক্ষণ দেওয়া হয়েছিল
- তারা খুব কম গণনা উপলব্ধ ছিল
- তারা ভুল টোকেনাইজার ব্যবহার করেছে
- তারা তাদের আকার আপেক্ষিক undertrained ছিল
- চিনচিলা বিশ্লেষণে মোটামুটিভাবে কীভাবে গণনা করা হয়েছিল?
- শুধুমাত্র GPU সংখ্যার সমানুপাতিক
- ডেটা আকারের থেকে স্বাধীন
- পরামিতি সময় প্রশিক্ষণ টোকেন সমানুপাতিক
- শব্দভান্ডার আকারের সমানুপাতিক
- Why might a deployment objective favor a smaller model trained on extra data rather than the training-compute optimum alone?
- Repeated inference costs can matter alongside the initial training budget
- Inference has no resource cost for any model
- The Chinchilla study proved every scaling relationship false
- More data always reduces both training and serving work to zero
- Under the approximation that training compute is proportional to N times D, how must D change if N doubles while that compute budget stays fixed?
- D must also double
- D must quadruple
- D must remain unchanged
- D must approximately halve
- Which three types of term appear in Chinchilla’s parametric loss fit?
- Only GPU count, electricity price, and elapsed seconds
- An irreducible base term, a model-size contribution, and a data-size contribution
- Only vocabulary size, file size, and model name
- Only a linear token count with no model-size term