What is Quantization? Definition | AI Understanding

تعریف

ماڈل کے وزن کو کم درستگی والے فارمیٹس میں تبدیل کرنا جیسے 8 بٹ یا 4 بٹ۔

متعلقہ شرائط

ماڈل کوانٹائزیشن

میموری اور تخمینہ لاگت کو کم کرنے کے لیے ماڈل وزن کی عددی درستگی کو کم کرنا۔

ایک عمدہ ٹیوننگ تکنیک جو میموری کی ضروریات کو کم کرنے کے لیے LoRA اڈاپٹر کے ساتھ 4 بٹ وزن کی مقدار کو یکجا کرتی ہے۔

بیک پروپیگیشن

بنیادی تربیتی الگورتھم جو پیشین گوئی کی غلطیوں کو نیٹ ورک کے ذریعے پیچھے کی طرف پھیلا کر ماڈل کے وزن کو اپ ڈیٹ کرتا ہے۔

Convolutional Neural Network (CNN)

ایک عصبی فن تعمیر کو گرڈ نما ڈیٹا جیسے کہ امیجز پر کارروائی کرنے کے لیے بہتر بنایا گیا ہے۔

خصوصیت نکالنا

خام ڈیٹا کو معلوماتی خصوصیات میں تبدیل کرنا جسے ماڈل استعمال کر سکتا ہے۔

جنریٹو اے آئی

AI سسٹم جو نیا مواد تیار کرتے ہیں جیسے کہ متن، تصاویر، آڈیو، ویڈیو یا کوڈ۔

ہماری مفت گائیڈز میں مزید جانیں۔

Residual Vector Quantization SmoothQuant and Activation Quantization GPTQ and AWQ Post-Training Quantization Quantization

See also

Pruning RAG (Retrieval-Augmented Generation)Prompt Injection Recall Prompt Engineering Recommendation System Prompt Red Teaming

مکمل AI لغت براؤز کریں۔تمام مفت AI گائیڈز دریافت کریں۔