गाइड से जुड़ी प्रश्नोत्तरी · मध्यम स्तर
अनुदेश ट्यूनिंग प्रश्नोत्तरी
पर्यवेक्षित निर्देश-प्रतिक्रिया प्रशिक्षण, वैकल्पिक प्राथमिकता चरण, कार्य विविधता, लीमा प्रयोग और नए निर्देशों के मूल्यांकन की समीक्षा करें।
प्रश्न 1 का 8
अनुदेश ट्यूनिंग के बिना, एक कच्चा आधार मॉडल 'फ्रांस की राजधानी क्या है?' संकेत पर कैसे प्रतिक्रिया दे सकता है?
प्रत्येक प्रश्न का पूर्वावलोकन करें8 प्रश्न
जैसे ही आप प्रश्नोत्तरी लेते हैं उत्तर और स्पष्टीकरण दिखाई देते हैं।
- अनुदेश ट्यूनिंग के बिना, एक कच्चा आधार मॉडल 'फ्रांस की राजधानी क्या है?' संकेत पर कैसे प्रतिक्रिया दे सकता है?
- यह हमेशा उत्तर देने से इंकार करता है
- यह एक त्रुटि देता है
- यह उत्तर देने के बजाय अधिक प्रश्नों या संबंधित पाठ के साथ जारी रह सकता है
- यह हर बार बिल्कुल सही उत्तर देता है
- निर्देश ट्यूनिंग का सबसे अच्छा वर्णन इस प्रकार किया गया है:
- मानवीय प्रतिक्रिया से सुदृढीकरण सीखना
- कच्चे वेब टेक्स्ट पर पूर्व प्रशिक्षण
- तापमान पैरामीटर का समायोजन
- निर्देश-और-प्रतिक्रिया युग्मों पर पर्यवेक्षित फाइन-ट्यूनिंग
- How does supervised instruction tuning differ from reward-model-based RLHF in the published InstructGPT recipe?
- It is exactly the same optimization stage
- It trains against reference responses, while the later preference stages use comparisons and a reward model
- It requires no training examples
- It only changes a sampling temperature
- Why do instruction-tuning researchers evaluate models on held-out tasks and instructions?
- To assess generalization beyond the examples used for training
- To prove that every unseen task will succeed
- To avoid checking any generated responses
- To guarantee the same accuracy for every task mixture
- आधुनिक चैट सहायक के लिए प्रशिक्षण चरणों का विशिष्ट क्रम कौन सा है?
- आरएलएचएफ, फिर प्रीट्रेनिंग, फिर इंस्ट्रक्शन ट्यूनिंग
- निर्देश ट्यूनिंग, फिर प्रीट्रेनिंग
- केवल पूर्व प्रशिक्षण, और कुछ नहीं
- प्रीट्रेनिंग, फिर इंस्ट्रक्शन ट्यूनिंग, फिर वैकल्पिक आरएलएचएफ
- What does LIMA's curated-data experiment support as a research conclusion?
- Exactly 1,000 examples are enough for every model and task
- More data can never help any instruction-tuned model
- Carefully selected small datasets can be effective in an evaluated configuration
- Only synthetic examples can train an assistant
- Which training stage did the original LIMA experiment omit while using its 1,000 curated prompt-response pairs?
- Reinforcement learning and human preference modeling
- Supervised response loss
- A pretrained base model
- Prompt-response examples
- A tuned model follows the requested answer format. What does that behavior alone fail to establish?
- That an output format was requested
- That every factual statement in the answer is correct
- That the model produced a response
- That the response can be inspected