GPTQ और AWQ प्रशिक्षण उपरांत परिमाणीकरण प्रश्नोत्तरी

जैसे ही आप प्रश्नोत्तरी लेते हैं उत्तर और स्पष्टीकरण दिखाई देते हैं।

1. 'प्रशिक्षणोत्तर परिमाणीकरण' का क्या अर्थ है?
   • पूर्ण पुनर्प्रशिक्षण के बिना कम परिशुद्धता के लिए पहले से प्रशिक्षित मॉडल के वजन को संपीड़ित करना
   • मॉडल को पूरी तरह से कम परिशुद्धता पर पुनः प्रशिक्षित करना
   • तैनाती के बाद अधिक प्रशिक्षण डेटा जोड़ना
   • मॉडल की पैरामीटर संख्या बढ़ाना
2. मात्रा निर्धारित करते समय पूर्णांकन त्रुटियों की भरपाई के लिए GPTQ किस जानकारी का उपयोग करता है?
   • मॉडल की शब्दावली सूची
   • अंशांकन डेटासेट से दूसरे क्रम (हेसियन/वक्रता) की जानकारी
   • उपयोगकर्ता का शीघ्र इतिहास
   • बेतरतीब शोर
3. कौन सी मुख्य अंतर्दृष्टि AWQ (सक्रियण-जागरूक वजन परिमाणीकरण) को संचालित करती है?
   • सभी भार समान रूप से महत्वपूर्ण हैं
   • सक्रियणों को परिमाणित किया जाना चाहिए लेकिन वजन को अछूता छोड़ दिया जाना चाहिए
   • वज़न चैनलों का एक छोटा सा अंश विशेष रूप से महत्वपूर्ण है और इसे संरक्षित किया जाना चाहिए
   • परिमाणीकरण केवल पूर्व प्रशिक्षण के दौरान ही होना चाहिए
4. 16-बिट भार की तुलना में 4-बिट परिमाणीकरण लगभग कितनी मेमोरी बचाता है?
   • कोई बचत नहीं
   • लगभग दोगुनी मेमोरी
   • बिल्कुल आधी स्मृति
   • लगभग एक चौथाई मेमोरी (4x कमी)
5. GPTQ और AWQ दोनों आम तौर पर वजन की मात्रा क्यों निर्धारित करते हैं लेकिन सक्रियता को उच्च परिशुद्धता पर क्यों रखते हैं?
   • वज़न स्मृति पर हावी हो जाता है, और आक्रामक सक्रियण परिमाणीकरण सटीकता को अधिक नुकसान पहुँचाता है
   • ट्रांसफार्मर में सक्रियण मौजूद नहीं है
   • सक्रियण पहले से ही 1-बिट हैं
   • यह कानून द्वारा आवश्यक है
6. उपभोक्ता हार्डवेयर पर स्थानीय स्तर पर परिमाणित मॉडल चलाने के लिए आमतौर पर किस उपकरण का उपयोग किया जाता है?
   • Microsoft शब्द
   • लामा.सीपीपी
   • एक स्प्रेडशीट प्रोग्राम
   • अकेले एक वेब ब्राउज़र
7. How does GPTQ use a calibration dataset during layer-wise weight quantization?
   • It adds new training labels to the model
   • It selects a new tokenizer vocabulary
   • It estimates second-order information to compensate for rounding errors
   • It measures only GPU temperature
8. How does AWQ identify which weight channels deserve protection?
   • It computes a full Hessian inverse
   • It adds random noise to all weights
   • It selects channels only by their index
   • It uses activation magnitudes to identify channels important to preserve