मॉडल परिमाणीकरण प्रश्नोत्तरी

जैसे ही आप प्रश्नोत्तरी लेते हैं उत्तर और स्पष्टीकरण दिखाई देते हैं।

1. Quantizing a model mainly reduces what?
   • वज़न और सक्रियणों को संग्रहीत करने के लिए उपयोग की जाने वाली संख्यात्मक परिशुद्धता
   • नेटवर्क में परतों की संख्या
   • मॉडल जिस प्रशिक्षण डेटासेट पर बनाया गया था
   • वह भाषा जिसे मॉडल समझ सकता है
2. Ignoring scale metadata and other runtime tensors, what is the weight-payload ratio from sixteen bits to four bits per weight?
   • The payload is unchanged
   • It is one hundredth of the original payload
   • The four-bit payload is one quarter of the sixteen-bit payload
   • The payload becomes four times larger
3. आक्रामक निम्न-बिट परिमाणीकरण का मुख्य नकारात्मक पक्ष क्या है?
   • मॉडल अपनी प्रशिक्षण भाषा भूल जाता है
   • मानों को कम बाल्टियों में निचोड़ने से सटीकता की संभावित हानि हो सकती है
   • यह केवल सुपर कंप्यूटर पर ही चल सकता है
   • यह परतों को स्थायी रूप से हटा देता है
4. परिमाणीकरण-जागरूक प्रशिक्षण, प्रशिक्षण के बाद परिमाणीकरण से किस प्रकार भिन्न है?
   • इसके लिए किसी भी डेटा की आवश्यकता नहीं है
   • यह केवल छवियों पर काम करता है
   • यह समय के साथ बिट्स की संख्या बढ़ाता है
   • यह प्रशिक्षण के दौरान गोलाई का अनुकरण करता है ताकि मॉडल कम परिशुद्धता को सहन करना सीख सके
5. कौन सी तकनीक एक जीपीयू पर बड़े मॉडलों को किफायती बनाने के लिए 4-बिट परिमाणीकरण का उपयोग करती है?
   • ड्रॉपआउट
   • बैच सामान्यीकरण
   • QLoRA
   • टोकनीकरण
6. प्रति-चैनल या प्रति-समूह स्केलिंग परिमाणित मॉडलों में सहायता क्यों करती है?
   • यह परिशुद्धता को बनाए रखने के लिए वजन मैट्रिक्स के स्लाइस को अलग-अलग पैमाने के कारक प्रदान करता है
   • यह किसी भी वज़न की आवश्यकता को हटा देता है
   • यह मॉडल को बड़ा बनाता है
   • यह टेक्स्ट को ऑडियो में परिवर्तित करता है
7. A four-bit model’s raw weights fit in available VRAM, but serving fails out of memory. What could explain this?
   • Every four-bit weight expands permanently to a gigabyte
   • Quantization guarantees no runtime allocations
   • Only the model’s filename consumes the remaining memory
   • Caches, scales, unquantized tensors, or workspace need additional memory
8. A team quantizes to INT8 but sees no inference speedup. What should it check?
   • Whether the training data are alphabetized
   • Whether the workload uses efficient supported kernels on its hardware
   • Whether lower bit width always guarantees faster execution
   • Whether the model must have changed languages