গাইড লিঙ্ক ক্যুইজ · মাঝারি স্তর

নিউক্লিয়াস এবং টপ-কে স্যাম্পলিং ক্যুইজ

কীভাবে টপ-কে, টপ-পি এবং তাপমাত্রা টোকেন স্যাম্পলিংকে পরিবর্তন করে এবং কেন ডিকোডিং পছন্দ জেনারেটেড-টেক্সট আচরণ পরিবর্তন করে তা বুঝুন।

প্রশ্ন 1 এর 8

টপ-কে স্যাম্পলিং কীভাবে টোকেন পছন্দগুলিকে সীমাবদ্ধ করে?

প্রতিটি প্রশ্নের পূর্বরূপ দেখুন8 প্রশ্ন

আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।

  1. টপ-কে স্যাম্পলিং কীভাবে টোকেন পছন্দগুলিকে সীমাবদ্ধ করে?
    • এটি শুধুমাত্র k সর্বোচ্চ-সম্ভাব্যতা টোকেন রাখে, তারপর তাদের মধ্যে নমুনা
    • ক্রমবর্ধমান সম্ভাব্যতা k অতিক্রম না করা পর্যন্ত এটি টোকেন রাখে
    • এটি সর্বদা একক সম্ভাব্য টোকেন নির্বাচন করে
    • এটি শুধুমাত্র k টোকেনগুলিকে সরিয়ে দেয়
  2. নিউক্লিয়াস (টপ-পি) নমুনাতে 'নিউক্লিয়াস' কী সংজ্ঞায়িত করে?
    • প্রশিক্ষণ ডেটাতে k সবচেয়ে ঘন ঘন শব্দ
    • টোকেনের ক্ষুদ্রতম সেট যার সম্ভাব্যতার যোগফল কমপক্ষে p
    • একক সর্বোচ্চ-সম্ভাব্যতা টোকেন
    • 50% এর উপরে সম্ভাব্যতা সহ সমস্ত টোকেন
  3. টপ-পি ওভার টপ-কে এর মূল সুবিধা কী?
    • এটি গণনা করা সর্বদা দ্রুত
    • এটি কখনই এলোমেলো আউটপুট তৈরি করে না
    • প্রার্থীর টোকেনের সংখ্যা মডেলের আত্মবিশ্বাসের সাথে খাপ খায়
    • এটি টোকেন সম্ভাব্যতা উপেক্ষা করে
  4. নমুনা নেওয়ার আগে তাপমাত্রা পরামিতি কী করে?
    • এটি সর্বাধিক ক্রম দৈর্ঘ্য সেট করে
    • এটি আউটপুটের ভাষা নির্বাচন করে
    • এটি শব্দভান্ডারের আকার গণনা করে
    • এটি তীক্ষ্ণ বা চাটুকার হওয়ার সম্ভাবনা বন্টনকে পুনরায় স্কেল করে
  5. What result did the nucleus-sampling paper report for its tested open-ended generation tasks?
    • It improved diversity without sacrificing fluency and coherence in the reported comparisons
    • It guaranteed factual correctness in every output
    • It eliminated all sampling randomness
    • It improved translation quality on every benchmark
  6. For a greedy decoding baseline with no token sampling, how should generation be configured?
    • Disable sampling and use greedy decoding to select the highest-probability token at each step
    • Use high temperature and a large nucleus threshold
    • Randomize the temperature at every step
    • Keep sampling enabled but increase top-p
  7. After top-k truncation removes tokens, what happens to the remaining sampling probabilities?
    • They remain assigned their original total mass below one
    • They are replaced with equal probabilities
    • They are renormalized over the retained top-k tokens
    • They are converted into beam-search scores
  8. What did Holtzman et al. report about likelihood-maximizing decoding for open-ended text?
    • It always yields the most diverse human-like passages
    • এটি একটি ভাষার মডেলের প্রয়োজনীয়তা দূর করে
    • It guarantees factual correctness
    • It can produce bland and repetitive text despite strong likelihood scores