गाइड से जुड़ी प्रश्नोत्तरी · मध्यम स्तर
पुनरावृत्ति दंड और डिकोडिंग नियंत्रण प्रश्नोत्तरी
तापमान, टॉप-के, टॉप-पी और पुनरावृत्ति दंड की तुलना करें, जिसमें एलएलएम पीढ़ी वर्कफ़्लो में नमूना लेने से पहले लॉग कैसे बदलते हैं।
प्रश्न 1 का 8
'तापमान' पैरामीटर बढ़ाने से मॉडल के आउटपुट पर क्या प्रभाव पड़ता है?
प्रत्येक प्रश्न का पूर्वावलोकन करें8 प्रश्न
जैसे ही आप प्रश्नोत्तरी लेते हैं उत्तर और स्पष्टीकरण दिखाई देते हैं।
- 'तापमान' पैरामीटर बढ़ाने से मॉडल के आउटपुट पर क्या प्रभाव पड़ता है?
- इसे और अधिक यादृच्छिक और विविध बनाता है
- इसे अधिक नियतिवादी और केंद्रित बनाता है
- मॉडल का वज़न स्थायी रूप से बदलता है
- पीढ़ी को गति देता है
- टॉप-पी (न्यूक्लियस) सैंपलिंग कैसे तय करती है कि किस टोकन पर विचार किया जाए?
- यह संभाव्यता की परवाह किए बिना टोकन की एक निश्चित संख्या रखता है
- यह टोकन का सबसे छोटा सेट रखता है जिसकी संभावनाओं का योग एक सीमा तक होता है
- यह केवल एकल सर्वाधिक संभावित टोकन रखता है
- यह 50% से अधिक संभावना वाले टोकन रखता है
- पुनरावृत्ति दंड आम तौर पर किस स्तर पर लागू होता है?
- पीढ़ी दर पीढ़ी कच्चे पाठ पर
- प्रशिक्षण डेटा पर
- सॉफ्टमैक्स से पहले लॉगिट्स पर
- टोकननाइज़र शब्दावली पर
- OpenAI के टेक्स्ट-जेनरेशन एपीआई में, उपस्थिति और आवृत्ति दंड कैसे भिन्न होते हैं?
- टोकन गिनती के साथ उपस्थिति दंड स्केल; फ़्रीक्वेंसी पेनल्टी फ्लैट है
- वे समान हैं
- दोनों केवल पहले टोकन पर लागू होते हैं
- Frequency penalty scales with how often a token appeared; presence penalty applies once if it appeared at all
- कोड पूर्णता के लिए जहां नियतात्मक नमूनाकरण वांछित है, कौन सी सेटिंग गाइड से सबसे अच्छी तरह मेल खाती है?
- तापमान शून्य के करीब
- बहुत अधिक तापमान
- 2.0 से ऊपर उच्च पुनरावृत्ति दंड
- उच्च तापमान के साथ 1.0 का टॉप-पी
- टॉप-के सैंपलिंग क्या करती है?
- टोकन को प्रायिकता k के योग में रखता है
- उम्मीदवारों के रूप में केवल k सर्वाधिक संभावित टोकन रखता है
- सभी लॉग को k से गुणा करें
- प्रशिक्षण से k कम से कम संभावित टोकन हटा देता है
- With a repetition penalty above 1, how does a standard logits processor adjust a previously seen token?
- It sets every repeated-token logit to zero
- It adds the penalty to every token equally
- It divides a positive logit by the penalty and multiplies a negative logit by it
- It removes the token from the vocabulary permanently
- How does top-k differ from top-p sampling?
- Top-k uses cumulative probability while top-p fixes a count
- Top-k changes model weights while top-p changes the tokenizer
- They are both deterministic decoding methods
- Top-k keeps a fixed number of candidates; top-p keeps a probability-mass-based set