क्रॉस-अटेंशन क्विज़

जैसे ही आप प्रश्नोत्तरी लेते हैं उत्तर और स्पष्टीकरण दिखाई देते हैं।

1. आत्म-ध्यान और क्रॉस-ध्यान के बीच मुख्य अंतर क्या है?
   • क्रॉस-अटेंशन में, प्रश्न एक क्रम से आते हैं और कुंजियाँ/मान दूसरे क्रम से आते हैं
   • क्रॉस-अटेंशन किसी सॉफ्टमैक्स का उपयोग नहीं करता है
   • आत्म-ध्यान केवल छवियों पर ही काम करता है
   • क्रॉस-अटेंशन को ग्रेडिएंट डिसेंट के साथ प्रशिक्षित नहीं किया जा सकता है
2. एनकोडर-डिकोडर ट्रांसफार्मर में, क्रॉस-अटेंशन के लिए प्रश्न कहाँ से आते हैं?
   • एनकोडर के आउटपुट
   • डिकोडर की वर्तमान स्थिति
   • केवल कच्चा इनपुट एम्बेडिंग
   • एक अलग यादृच्छिक मैट्रिक्स
3. क्रॉस-अटेंशन में दो अनुक्रमों की लंबाई या तौर-तरीके अलग-अलग क्यों हो सकते हैं?
   • क्योंकि ध्यान के लिए समान-लंबाई वाले इनपुट की आवश्यकता होती है
   • क्योंकि यह अनुक्रमों में से एक को पूरी तरह से अनदेखा कर देता है
   • क्योंकि प्रश्न और कुंजियाँ अलग-अलग, स्वतंत्र स्रोतों से आती हैं
   • क्योंकि यह हर चीज़ को पहले एक निश्चित आकार में पैड करता है
4. स्टेबल डिफ्यूजन क्रॉस-अटेंशन का उपयोग कैसे करता है?
   • छवियों को छोटी फ़ाइलों में संपीड़ित करने के लिए
   • भाषाओं के बीच पाठ का अनुवाद करना
   • ऑडियो से शोर हटाने के लिए
   • टेक्स्ट प्रॉम्प्ट पर उत्पन्न छवि क्षेत्रों को कंडीशन करने के लिए
5. क्रॉस-अटेंशन आत्म-ध्यान के साथ किस गणित ऑपरेशन को साझा करता है?
   • सॉफ्टमैक्स के साथ स्केल्ड डॉट-प्रोडक्ट ध्यान
   • पिक्सेल पर कनवल्शन
   • आवर्ती स्थिति अद्यतन
   • हार्ड-कोडित लुकअप टेबल
6. What gate does Flamingo use to control information flow through its cross-attention layers?
   • A hard threshold initialized to one
   • A tanh gate initialized to zero
   • A fixed residual weight of 0.5
   • A learned vocabulary lookup table
7. What input sequence structure does Flamingo’s paper say its visual-language model can handle?
   • Only one image followed by a fixed-length label
   • Only text tokens with no visual inputs
   • Visual and textual data interleaved in arbitrary sequences
   • Only video frames with no text
8. What is one purpose of cross-attention in Flamingo’s visual-language architecture?
   • It replaces all text tokens with pixels
   • It prevents any information from passing between modalities
   • It performs only image resizing
   • It lets language-model layers incorporate visual features from image/video inputs