کوڈ ماڈلز کے لیے قیاس آرائی پر مبنی ترامیم

It matters because it can cut latency for large rewrites by an order of magnitude in coding tools.

جب AI کسی فائل میں ترمیم کرتا ہے، تو اس کے زیادہ تر ٹوکن آؤٹ پٹ اصل کوڈ سے ملتے جلتے ہوتے ہیں۔ صرف چند لائنیں اصل میں تبدیل ہوتی ہیں۔ بولی نسل ٹوکن کے ذریعہ پوری فائل کو دوبارہ خارج کرتی ہے، جو بڑی فائلوں کے لیے سست ہے۔ قیاس آرائیاں غیر تبدیل شدہ ڈھانچے کا استحصال کرتی ہیں: موجودہ ماخذ ایک اعلیٰ معیار کے 'ڈرافٹ' کے طور پر کام کرتا ہے جو ماڈل آؤٹ پٹ کرے گا۔ سسٹم اصل کوڈ کے ٹکڑوں کو قیاس آرائی پر مبنی اندازوں کے طور پر فیڈ کرتا ہے اور ماڈل کو ایک ہی فارورڈ پاس میں ان میں سے بہت سے کی تصدیق کرنے دیتا ہے۔ جہاں ماڈل اتفاق کرتا ہے، وہ ٹوکن فوری طور پر قبول کر لیے جاتے ہیں۔ جہاں یہ متفق نہیں ہے، یہ عام طور پر درست مدت پیدا کرتا ہے۔ یہ قیاس آرائی پر مبنی ضابطہ کشائی کا ایک کوڈ اسپیشلائزڈ کزن ہے، لیکن ایک علیحدہ چھوٹے ڈرافٹ ماڈل کے بجائے، مسودہ بنیادی طور پر فائل میں ترمیم کرنے سے مفت آتا ہے، جس سے ترمیم کے بھاری کاموں پر بڑی رفتار ملتی ہے۔