गाइड से जुड़ी प्रश्नोत्तरी · मध्यम स्तर
शीघ्र ट्यूनिंग प्रश्नोत्तरी
इनपुट लेयर पर सॉफ्ट प्रॉम्प्ट, फ्रोजन-मॉडल सेटअप और शीघ्र ट्यूनिंग के लिए रिपोर्ट किए गए स्केल-निर्भर परिणामों की समीक्षा करें।
प्रश्न 1 का 8
प्रॉम्प्ट ट्यूनिंग में 'सॉफ्ट प्रॉम्प्ट' क्या है?
प्रत्येक प्रश्न का पूर्वावलोकन करें8 प्रश्न
जैसे ही आप प्रश्नोत्तरी लेते हैं उत्तर और स्पष्टीकरण दिखाई देते हैं।
- प्रॉम्प्ट ट्यूनिंग में 'सॉफ्ट प्रॉम्प्ट' क्या है?
- निरंतर एम्बेडिंग वैक्टर सीखे जिन्हें वास्तविक शब्दों में मैप करने की आवश्यकता नहीं है
- विनम्रतापूर्वक शब्दों में लिखा गया पाठ निर्देश
- मॉडल की एक छोटी आसुत प्रति
- जमे हुए आउटपुट लॉग का एक सेट
- प्रॉम्प्ट ट्यूनिंग अपने प्रशिक्षण योग्य वैक्टर को कहाँ जोड़ती है?
- प्रत्येक ट्रांसफार्मर परत पर
- केवल इनपुट एम्बेडिंग परत पर
- केवल आउटपुट लेयर पर
- अनुकूलक स्थिति के अंदर
- मूल पेपर ने मॉडल स्केल के बारे में किस आश्चर्यजनक प्रभाव पर प्रकाश डाला?
- जैसे-जैसे मॉडल बढ़ते हैं, प्रॉम्प्ट ट्यूनिंग ख़राब होती जाती है
- त्वरित ट्यूनिंग पर स्केल का कोई प्रभाव नहीं पड़ता है
- जैसे-जैसे मॉडल बड़े होते जाते हैं, त्वरित ट्यूनिंग पूर्ण फाइन-ट्यूनिंग गुणवत्ता तक पहुंचती है
- बड़े मॉडलों को अब शीघ्र ट्यून नहीं किया जा सकता
- शीघ्र ट्यूनिंग की शुरुआत किसने की?
- 2016 में डीपमाइंड
- 2023 में Anthropic
- 2019 में Microsoft
- 2021 में Google (लेस्टर, अल-रफौ, कॉन्स्टेंट) के शोधकर्ता
- त्वरित ट्यूनिंग एक मॉडल से कई कार्यों को कैसे पूरा करने में सक्षम बनाती है?
- प्रत्येक कार्य अपने स्वयं के छोटे नरम प्रॉम्प्ट का उपयोग करता है जबकि मॉडल स्थिर रहता है
- यह प्रत्येक अनुरोध के लिए पूरे मॉडल को पुनः प्रशिक्षित करता है
- यह अप्रयुक्त कार्यों को वेट से हटा देता है
- इसके लिए प्रत्येक कार्य के लिए एक अलग GPU की आवश्यकता होती है
- How does Lester and colleagues’ paper describe prompt tuning in relation to prefix tuning?
- As a replacement for frozen language models
- As a simpler related method that the paper compares with prefix tuning
- As a tokenizer with no trainable parameters
- As a method that updates every model weight
- Which model family did Lester and colleagues use to study prompt tuning across scales?
- वेवनेट
- AlphaFold2
- टी5
- अलगाव वन
- How are soft prompts optimized in prompt tuning?
- By changing all model weights for each task
- By replacing embeddings with hard-coded words only
- By training a new tokenizer for every example
- By backpropagation through a frozen language model to update the prompt vectors