গাইড লিঙ্ক ক্যুইজ · মাঝারি স্তর
টেস্ট-টাইম কম্পিউট স্কেলিং কুইজ
অনুমান-সময় গণনা, প্রার্থী অনুসন্ধান, অভিযোজিত বরাদ্দ এবং পরীক্ষার সময় অধ্যয়নে পরিমাপ করা খরচ-বিলম্বিত ট্রেডঅফ পর্যালোচনা করুন।
প্রশ্ন 1 এর 8
'পরীক্ষার সময় গণনা' কী বোঝায়?
প্রতিটি প্রশ্নের পূর্বরূপ দেখুন8 প্রশ্ন
আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।
- 'পরীক্ষার সময় গণনা' কী বোঝায়?
- কম্পিউটেশন ডেটার উপর মডেলকে প্রশিক্ষণ দেয়
- একটি মডেল ডাউনলোড করতে সময় লাগে
- মডেল যখন অনুমানে একটি প্রশ্নের উত্তর দেয় তখন গণনা ব্যয় হয়
- ডাটা সেন্টার ঠান্ডা করতে ব্যবহৃত বিদ্যুৎ
- In test-time scaling studies, what can extra inference compute be used for?
- Changing the model’s training data during the request
- Increasing the number of model parameters automatically
- Guaranteeing correctness without evaluation
- Searching or revising candidate solutions and checking their quality
- টেস্ট-টাইম কম্পিউট স্কেলিং এর মূল ট্রেড-অফ কি?
- আরো বিলম্বিতা এবং খরচের বিনিময়ে উচ্চ নির্ভুলতা
- কম স্মৃতি কিন্তু ধীর প্রশিক্ষণ
- আরও ডেটা কিন্তু ছোট মডেল
- কম রেজোলিউশনের জন্য ভাল গ্রাফিক্স
- 'বেস্ট-অফ-এন' স্যাম্পলিং কী?
- N বৃহত্তম ডেটাসেটের প্রশিক্ষণ
- N প্রার্থীর উত্তর তৈরি করা এবং সেরাটি নির্বাচন করা
- একটি প্রম্পটের শুধুমাত্র প্রথম N শব্দ ব্যবহার করা
- গতির জন্য এন বিভিন্ন কম্পিউটারে মডেল চালানো
- কেন পরীক্ষার সময় গণনা একটি নতুন 'স্কেলিং অক্ষ' হিসাবে বিবেচিত হয়?
- এটি কোনো প্রশিক্ষণের প্রয়োজন প্রতিস্থাপন করে
- এটি শুধুমাত্র ছোট মডেলগুলিতে কাজ করে
- এটি শুধুমাত্র মডেলের আকার বাড়ানোর পরিবর্তে অনুমান গণনা যোগ করে কর্মক্ষমতা উন্নত করে
- এটি একটি মডেল পরিবেশন করতে পারে এমন ব্যবহারকারীর সংখ্যা হ্রাস করে
- কি বিস্ময়কর ফলাফল পরীক্ষার সময় গণনা সক্ষম করে?
- মডেল কোন GPU ছাড়া চলতে পারে
- প্রশিক্ষণ তথ্য অপ্রয়োজনীয় হয়ে ওঠে
- মডেল সবসময় দ্রুত উত্তর
- একটি ছোট মডেল বেশিক্ষণ চিন্তা করলে তাত্ক্ষণিকভাবে উত্তর দেওয়া অনেক বড় মডেলের প্রতিদ্বন্দ্বী হতে পারে
- What is one reason a fixed best-of-N strategy may waste inference compute?
- It spends the same candidate budget on easy and difficult prompts
- It modifies model weights on every query
- It cannot generate multiple candidates
- It eliminates the need for scoring
- What did the test-time compute paper compare with best-of-N sampling?
- A strategy that disables inference
- A compute-optimal strategy that allocates effort based on expected solution quality
- A larger tokenizer vocabulary
- A method that changes image resolution