गाइड से जुड़ी प्रश्नोत्तरी · मध्यम स्तर

पुनरावृत्ति दंड और डिकोडिंग नियंत्रण प्रश्नोत्तरी

तापमान, टॉप-के, टॉप-पी और पुनरावृत्ति दंड की तुलना करें, जिसमें एलएलएम पीढ़ी वर्कफ़्लो में नमूना लेने से पहले लॉग कैसे बदलते हैं।

प्रश्न 1 का 8

'तापमान' पैरामीटर बढ़ाने से मॉडल के आउटपुट पर क्या प्रभाव पड़ता है?

प्रत्येक प्रश्न का पूर्वावलोकन करें8 प्रश्न

जैसे ही आप प्रश्नोत्तरी लेते हैं उत्तर और स्पष्टीकरण दिखाई देते हैं।

  1. 'तापमान' पैरामीटर बढ़ाने से मॉडल के आउटपुट पर क्या प्रभाव पड़ता है?
    • इसे और अधिक यादृच्छिक और विविध बनाता है
    • इसे अधिक नियतिवादी और केंद्रित बनाता है
    • मॉडल का वज़न स्थायी रूप से बदलता है
    • पीढ़ी को गति देता है
  2. टॉप-पी (न्यूक्लियस) सैंपलिंग कैसे तय करती है कि किस टोकन पर विचार किया जाए?
    • यह संभाव्यता की परवाह किए बिना टोकन की एक निश्चित संख्या रखता है
    • यह टोकन का सबसे छोटा सेट रखता है जिसकी संभावनाओं का योग एक सीमा तक होता है
    • यह केवल एकल सर्वाधिक संभावित टोकन रखता है
    • यह 50% से अधिक संभावना वाले टोकन रखता है
  3. पुनरावृत्ति दंड आम तौर पर किस स्तर पर लागू होता है?
    • पीढ़ी दर पीढ़ी कच्चे पाठ पर
    • प्रशिक्षण डेटा पर
    • सॉफ्टमैक्स से पहले लॉगिट्स पर
    • टोकननाइज़र शब्दावली पर
  4. OpenAI के टेक्स्ट-जेनरेशन एपीआई में, उपस्थिति और आवृत्ति दंड कैसे भिन्न होते हैं?
    • टोकन गिनती के साथ उपस्थिति दंड स्केल; फ़्रीक्वेंसी पेनल्टी फ्लैट है
    • वे समान हैं
    • दोनों केवल पहले टोकन पर लागू होते हैं
    • Frequency penalty scales with how often a token appeared; presence penalty applies once if it appeared at all
  5. कोड पूर्णता के लिए जहां नियतात्मक नमूनाकरण वांछित है, कौन सी सेटिंग गाइड से सबसे अच्छी तरह मेल खाती है?
    • तापमान शून्य के करीब
    • बहुत अधिक तापमान
    • 2.0 से ऊपर उच्च पुनरावृत्ति दंड
    • उच्च तापमान के साथ 1.0 का टॉप-पी
  6. टॉप-के सैंपलिंग क्या करती है?
    • टोकन को प्रायिकता k के योग में रखता है
    • उम्मीदवारों के रूप में केवल k सर्वाधिक संभावित टोकन रखता है
    • सभी लॉग को k से गुणा करें
    • प्रशिक्षण से k कम से कम संभावित टोकन हटा देता है
  7. With a repetition penalty above 1, how does a standard logits processor adjust a previously seen token?
    • It sets every repeated-token logit to zero
    • It adds the penalty to every token equally
    • It divides a positive logit by the penalty and multiplies a negative logit by it
    • It removes the token from the vocabulary permanently
  8. How does top-k differ from top-p sampling?
    • Top-k uses cumulative probability while top-p fixes a count
    • Top-k changes model weights while top-p changes the tokenizer
    • They are both deterministic decoding methods
    • Top-k keeps a fixed number of candidates; top-p keeps a probability-mass-based set