AI لغت کی اصطلاح

کیا ہے قیاس آرائی پر مبنی ضابطہ کشائی?

تعریف

ایک انفرنس ایکسلریشن کا طریقہ جہاں ایک چھوٹا ڈرافٹ ماڈل ٹوکن تجویز کرتا ہے جس کی متوازی طور پر ایک بڑا ماڈل تصدیق کرتا ہے۔

متعلقہ شرائط

استعمال پر مبنی بلنگ
قیمتوں کا تعین جہاں API کالز، ٹوکن، انفرنس ٹائم، یا استعمال شدہ کمپیوٹ کے ساتھ لاگت کی پیمائش ہوتی ہے۔
سلائیڈنگ ونڈو توجہ
ایک توجہ کا نمونہ جہاں ہر ٹوکن حساب کو کم کرنے کے لیے صرف قریبی ٹوکنز کی ایک مقررہ سائز والی ونڈو پر حاضر ہوتا ہے۔
اندازہ
رن ٹائم مرحلہ جہاں ایک تربیت یافتہ ماڈل پیشین گوئیاں یا نتائج پیدا کرتا ہے۔
RAG (ریٹریول-آگمینٹڈ جنریشن)
ایک ایسا طریقہ جو خارجی علم کو بازیافت کرتا ہے اور تخمینہ کے وقت اسے نسل میں فیڈ کرتا ہے۔
ٹاپ-کے سیمپلنگ
ایک ضابطہ کشائی کی حکمت عملی جو صرف k سے نمونے لیتی ہے ممکنہ طور پر اگلے ٹوکنز۔
ڈسٹلڈ ماڈل
ایک چھوٹا ماڈل جس کو کسی بڑے ماڈل کے رویے کی نقل کرنے کی تربیت دی گئی ہے جبکہ اندازہ میں کم کمپیوٹ کا استعمال کیا گیا ہے۔

ہماری مفت گائیڈز میں مزید جانیں۔

Contrastive DecodingMinimum Bayes Risk DecodingSpeculative Sampling VerificationSelf-Consistency Decoding

See also

Zero Data RetentionKV CacheMCP (Model Context Protocol)Trust CalibrationAgentic LoopTest-Time ComputeReActStructured Output
مکمل AI لغت براؤز کریں۔تمام مفت AI گائیڈز دریافت کریں۔