انسٹرکشن ٹیوننگ

بنیادی زبان کے ماڈل کو صرف ویب ٹیکسٹ پر اگلے ٹوکن کی پیشن گوئی کرنے کے لیے تربیت دی جاتی ہے، لہذا اگر آپ کوئی سوال ٹائپ کرتے ہیں تو یہ جواب دینے کے بجائے مزید سوالات کے ساتھ جاری رہ سکتا ہے۔ انسٹرکشن ٹیوننگ اسے ٹھیک کرتی ہے۔ یہ زیر نگرانی فائن ٹیوننگ کی ایک شکل ہے: ماڈل کو ہزاروں کاموں - ترجمہ، خلاصہ، درجہ بندی، سوال و جواب، کوڈنگ اور مزید کا احاطہ کرنے والے کئی جوڑوں (ہدایت، مثالی جواب) پر تربیت دی جاتی ہے۔ ایک ہی ہدایات کے بعد مددگار جواب کے پیٹرن کو بار بار دیکھ کر، ماڈل 'جو صارف پوچھتا ہے وہ کریں' کے عمومی رویے کو سیکھتا ہے اور یہ ان ہدایات کو عام کرتا ہے جو اس نے تربیت میں کبھی نہیں دیکھا تھا۔ یہ نقطہ نظر 2021 کے آس پاس FLAN، T0، اور قدرتی ہدایات جیسے کام کے ذریعے قائم کیا گیا تھا، اور یہ OpenAI کے InstructGPT کا مرکز تھا، جس نے GPT-3 کو ہدایت کے اشارے کے کیوریٹڈ سیٹ پر ٹھیک بنایا تھا۔ یہ وہ بنیاد ہے جس پر زیادہ تر چیٹ اسسٹنٹ بنائے جاتے ہیں۔