গাইড লিঙ্ক ক্যুইজ · মাঝারি স্তর
কনট্রাস্টিভ ডিকোডিং কুইজ
পরীক্ষা বিশেষজ্ঞ – অপেশাদার স্কোরিং, শেয়ার্ড-টোকেন দমন, সম্ভাব্যতা ফিল্টারিং, ডিকোডিং-টাইম ব্যবহার, এবং বিপরীত প্রজন্মের মূল্যায়ন।
প্রশ্ন 1 এর 8
বিপরীত ডিকোডিংয়ে, ছোট 'অপেশাদার' মডেলটি কী ভূমিকা পালন করে?
প্রতিটি প্রশ্নের পূর্বরূপ দেখুন8 প্রশ্ন
আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।
- বিপরীত ডিকোডিংয়ে, ছোট 'অপেশাদার' মডেলটি কী ভূমিকা পালন করে?
- ভাগ করা ব্যর্থতা মোড দমন করতে এর লগ-সম্ভাবনা বিয়োগ করা হয়
- এটি সরাসরি চূড়ান্ত আউটপুট পাঠ্য তৈরি করে
- এটি বিশেষজ্ঞের ভুলের উপর সূক্ষ্ম টিউন করা হয়
- বিশেষজ্ঞ অনিশ্চিত হলে এটি বিশেষজ্ঞকে প্রতিস্থাপন করে
- অপেশাদারদের সম্ভাব্যতা বিয়োগ করলে পুনরাবৃত্তি এবং ব্লান্ড আউটপুট কমে যায় কেন?
- অপেশাদারদের প্রশিক্ষিত করা হয় শব্দের পুনরাবৃত্তি না করার জন্য
- জেনেরিক এবং পুনরাবৃত্তিমূলক টোকেন উভয় মডেলই পছন্দ করে, তাই বৈসাদৃশ্য তাদের বাতিল করে
- অপেশাদার প্রজন্মের পর নকল টোকেন মুছে দেয়
- দুই মডেল ভোট একবার পুনরাবৃত্তি অসম্ভব
- What does the adaptive plausibility constraint do in contrastive decoding?
- It guarantees every remaining continuation is coherent and true
- It replaces the expert distribution with the amateur distribution
- It filters out candidates whose expert probability is too low relative to the expert’s top token
- It forces every token to have equal probability
- মোটামুটি বিপরীত ডিকোডিং এ স্কোরিং সূত্র কি?
- লগ p_Amateur বিয়োগ লগ p_expert
- p_expert বার p_Amateur
- দুটি সম্ভাবনার গড়
- লগ p_expert বিয়োগ একটি সহগ বার লগ p_amateur
- কনট্রাস্টিভ ডিকোডিংয়ের একটি মূল ব্যবহারিক সুবিধা হল যে এটি:
- কোন অতিরিক্ত প্রশিক্ষণ ছাড়া অনুমান সময়ে কাজ করে
- যৌথভাবে উভয় মডেল পুনরায় প্রশিক্ষণ প্রয়োজন
- শুধুমাত্র শ্রেণীবিভাগের কাজগুলিতে কাজ করে
- একটি বড় মডেলের প্রয়োজন দূর করে
- পরবর্তী কোন পদ্ধতিটি একটি একক মডেলের নিজস্ব স্তরগুলিতে বিপরীত ধারণাকে প্রসারিত করে?
- মরীচি অনুসন্ধান
- DoLa, যা প্রারম্ভিক বনাম দেরী স্তরের বৈপরীত্য
- লোভী ডিকোডিং
- তাপমাত্রা স্কেলিং
- The expert assigns probability 0.4 to its top token and the plausibility threshold is 0.1 of that value. What is the minimum probability for a candidate to remain eligible?
- 0.4
- 0.1
- 0.04
- 0.004
- Why can contrastive decoding require more inference work than using the expert model alone?
- It must retrain both models for every prompt
- It replaces the vocabulary with image patches
- It runs only the amateur model
- It scores candidates with both an expert and an amateur model at inference time