माम्बा और चयनात्मक राज्य स्थान प्रश्नोत्तरी

जैसे ही आप प्रश्नोत्तरी लेते हैं उत्तर और स्पष्टीकरण दिखाई देते हैं।

1. एक मानक ट्रांसफार्मर की तुलना में माम्बा का मुख्य कम्प्यूटेशनल लाभ क्या है?
   • यह चतुष्कोणीय के बजाय अनुक्रम लंबाई के साथ रैखिक रूप से मापता है
   • इसके लिए किसी प्रशिक्षण डेटा की आवश्यकता नहीं है
   • यह केवल छवियों पर काम करता है
   • यह किसी भी छुपे हुए राज्य की आवश्यकता को हटा देता है
2. मांबा में 'चयनात्मक' शब्द का क्या अर्थ है?
   • यह चयन करता है कि किस GPU पर चलना है
   • इसके एसएसएम पैरामीटर इनपुट टोकन पर निर्भर करते हैं, इसलिए यह चुन सकता है कि क्या याद रखना है या क्या भूलना है
   • यह केवल संज्ञा और क्रिया का चयन करता है
   • यह अनदेखा करने के लिए टोकन का एक यादृच्छिक उपसमूह चुनता है
3. एक राज्य अंतरिक्ष मॉडल किसी अनुक्रम के इतिहास का प्रतिनिधित्व कैसे करता है?
   • प्रत्येक पिछले टोकन को स्पष्ट रूप से संग्रहीत करके
   • सभी जोड़ियों पर एक ध्यान मानचित्र बनाकर
   • इतिहास को एक निश्चित आकार की छिपी हुई स्थिति में संपीड़ित करके चरण दर चरण अद्यतन किया जाता है
   • यह कोई इतिहास नहीं रखता
4. मांबा तेज़ कनवल्शन शॉर्टकट का उपयोग क्यों नहीं कर सकती जिसका उपयोग पहले SSMs करते थे?
   • क्योंकि GPU पर कनवल्शन अवैध हैं
   • क्योंकि इसका कोई पैरामीटर नहीं है
   • क्योंकि यह टोकन को यादृच्छिक क्रम में संसाधित करता है
   • क्योंकि मापदंडों को इनपुट-निर्भर बनाने से समय-अपरिवर्तनीय संकल्पों की आवश्यकता टूट जाती है
5. कनवल्शन शॉर्टकट खोने के बावजूद माम्बा तेजी से बने रहने के लिए किस तकनीक का उपयोग करती है?
   • तेज़ GPU मेमोरी में रखा गया एक हार्डवेयर-जागरूक समानांतर स्कैन
   • पूरी तरह से सीपीयू पर चल रहा है
   • सभी टोकन जोड़े को कैशिंग किया जा रहा है
   • अधिकांश अनुक्रम को छोड़ना
6. माम्बा का परिचय किसने और मोटे तौर पर कब दिया?
   • 2018 में OpenAI
   • 2023 के अंत में अल्बर्ट गु और त्रि दाओ
   • Google 2015 में
   • कोई नहीं, यह काल्पनिक है
7. Which Mamba state-space parameters are made functions of the current input?
   • Only the fixed transition matrix A
   • The output vocabulary and tokenizer
   • B, C, and the step size delta
   • The attention query and key heads
8. What do the variable B, C, and delta parameters let Mamba do?
   • Build a growing key-value cache for every token
   • Route each token to an expert network only
   • Replace the state update with full all-pairs attention
   • Choose how much information to let into the state and how much to retain based on the input