گائیڈ سے منسلک کوئز · درمیانہ سطح

تکرار جرمانہ اور ضابطہ کشائی کنٹرول کوئز

درجہ حرارت، ٹاپ-کے، ٹاپ-پی، اور تکرار جرمانے کا موازنہ کریں، بشمول LLM جنریشن ورک فلو میں نمونے لینے سے پہلے لاگٹس کیسے تبدیل ہوتے ہیں۔

سوال 1 کی 8

'درجہ حرارت' پیرامیٹر کو بڑھانے سے ماڈل کے آؤٹ پٹ پر کیا اثر پڑتا ہے؟

ہر سوال کا جائزہ لیں۔8 سوالات

جب آپ کوئز دیتے ہیں تو جوابات اور وضاحتیں ظاہر ہوتی ہیں۔

  1. 'درجہ حرارت' پیرامیٹر کو بڑھانے سے ماڈل کے آؤٹ پٹ پر کیا اثر پڑتا ہے؟
    • اسے مزید بے ترتیب اور متنوع بناتا ہے۔
    • اسے زیادہ متعصب اور مرکوز بناتا ہے۔
    • ماڈل کے وزن کو مستقل طور پر تبدیل کرتا ہے۔
    • نسل کو تیز کرتا ہے۔
  2. ٹاپ پی (نیوکلئس) سیمپلنگ یہ کیسے طے کرتی ہے کہ کن ٹوکنز پر غور کیا جائے؟
    • یہ امکان سے قطع نظر ٹوکن کی ایک مقررہ تعداد رکھتا ہے۔
    • یہ ٹوکنز کا سب سے چھوٹا سیٹ رکھتا ہے جس کے امکانات ایک حد تک ہوتے ہیں۔
    • یہ صرف واحد سب سے زیادہ امکان والا ٹوکن رکھتا ہے۔
    • یہ 50% سے زیادہ امکان کے ساتھ ٹوکن رکھتا ہے
  3. تکرار جرمانہ عام طور پر کس مرحلے پر کام کرتا ہے؟
    • نسل در نسل خام متن پر
    • تربیت کے اعداد و شمار پر
    • سافٹ میکس سے پہلے لاگٹس پر
    • ٹوکنائزر الفاظ پر
  4. In OpenAI’s text-generation API, how do presence and frequency penalties differ?
    • ٹوکن کی گنتی کے ساتھ جرمانے کے ترازو کی موجودگی؛ تعدد جرمانہ فلیٹ ہے۔
    • وہ ایک جیسے ہیں۔
    • دونوں صرف پہلے ٹوکن پر لاگو ہوتے ہیں۔
    • Frequency penalty scales with how often a token appeared; presence penalty applies once if it appeared at all
  5. For code completion where deterministic sampling is desired, which setting best matches the guide?
    • درجہ حرارت صفر کے قریب
    • بہت زیادہ درجہ حرارت
    • 2.0 سے اوپر زیادہ تکرار جرمانہ
    • اعلی درجہ حرارت کے ساتھ 1.0 کا ٹاپ پی
  6. ٹاپ-کے سیمپلنگ کیا کرتا ہے؟
    • ٹوکنز کو پروبیبلٹی k پر جمع کرتا ہے۔
    • صرف k سب سے زیادہ ممکنہ ٹوکن کو بطور امیدوار رکھتا ہے۔
    • تمام لاگٹس کو k سے ضرب دیتا ہے۔
    • ٹریننگ سے k کو کم سے کم ممکنہ ٹوکن ہٹاتا ہے۔
  7. With a repetition penalty above 1, how does a standard logits processor adjust a previously seen token?
    • It sets every repeated-token logit to zero
    • It adds the penalty to every token equally
    • It divides a positive logit by the penalty and multiplies a negative logit by it
    • It removes the token from the vocabulary permanently
  8. How does top-k differ from top-p sampling?
    • Top-k uses cumulative probability while top-p fixes a count
    • Top-k changes model weights while top-p changes the tokenizer
    • They are both deterministic decoding methods
    • Top-k keeps a fixed number of candidates; top-p keeps a probability-mass-based set