मल्टी-क्वेरी ध्यान प्रश्नोत्तरी

जैसे ही आप प्रश्नोत्तरी लेते हैं उत्तर और स्पष्टीकरण दिखाई देते हैं।

1. मल्टी-क्वेरी अटेंशन सभी ध्यान प्रमुखों में क्या साझा करता है?
   • कुंजियों और मानों का एक एकल सेट
   • क्वेरी अनुमान
   • सॉफ्टमैक्स तापमान
   • आउटपुट परत का वजन
2. प्राथमिक बाधा क्या है जिसे एमक्यूए ऑटोरेग्रेसिव पीढ़ी के दौरान संबोधित करता है?
   • फ़्लोटिंग-पॉइंट गणना थ्रूपुट
   • केवी कैश लोड करने से मेमोरी बैंडविड्थ
   • प्रशिक्षण युगों की संख्या
   • टोकनाइज़र शब्दावली का आकार
3. मोटे तौर पर एमक्यूए केवी कैश को किस कारक से छोटा करता है?
   • अनुक्रम की लंबाई से
   • बैच के आकार के अनुसार
   • ध्यान प्रमुखों की संख्या से
   • यह केवी कैश आकार को नहीं बदलता है
4. एमक्यूए का उपयोग करने का मुख्य समझौता क्या है?
   • बहुत धीमा अनुमान
   • यह अब एकाधिक शीर्षों का बिल्कुल भी उपयोग नहीं कर सकता है
   • इसके लिए कहीं अधिक प्रशिक्षण डेटा की आवश्यकता है
   • मॉडल की गुणवत्ता में मामूली गिरावट
5. मानक मल्टी-हेड अटेंशन और एमक्यूए के बीच कौन सा संस्करण बैठता है?
   • समूहीकृत-प्रश्न ध्यान
   • स्लाइडिंग-विंडो ध्यान
   • फ़्लैश ध्यान
   • विरल ध्यान
6. मल्टी-क्वेरी अटेंशन का प्रस्ताव किसने दिया?
   • जेफ्री हिंटन
   • नोम शज़ीर
   • यान लेकन
   • आंद्रेज कारपैथी
7. In Multi-Query Attention, what remains separate for each attention head?
   • The shared key projection
   • The shared value projection
   • The query projection
   • The token sequence itself
8. How does Grouped-Query Attention differ from standard MQA?
   • It shares query projections but gives every head separate keys and values
   • It removes attention and replaces it with a recurrent layer
   • It groups output vocabulary tokens instead of attention heads
   • It shares keys and values within several groups of query heads rather than across all heads at once