زبان AI گائیڈ
Kahneman-Tversky کی اصلاح
Kahneman-Tversky Optimization (KTO) ایک سیدھ میں لانے کا طریقہ ہے جو جوڑا موازنہ کے بجائے سادہ انگوٹھوں یا انگوٹھوں کے نیچے لیبل سے سیکھتا ہے۔
اس گائیڈ کو سنیں۔اے آئی نے بیان کیا۔ · ~2 min
اس صفحہ پر2 منٹ پڑھیں
جائزہ
It matters because binary feedback is far easier and cheaper to collect than the ranked pairs most methods demand.
گہرا غوطہ
KTO، 2024 میں Stanford اور Contextual AI میں Ethayarajh اور ساتھیوں کے ذریعے متعارف کرایا گیا، پراسپیکٹ تھیوری سے مستعار لیا گیا ہے، ڈینیل کاہنیمن اور اموس ٹورسکی کے نوبل انعام یافتہ کام کہ انسان کیسے فائدے اور نقصان کو اہمیت دیتے ہیں۔ معیاری طریقوں جیسے ڈی پی او کو ترجیحی جوڑوں کی ضرورت ہوتی ہے: ایک ہی پرامپٹ کے لیے ایک منتخب اور مسترد جواب۔ KTO اس کے بجائے غیر جوڑا ڈیٹا کے ساتھ کام کرتا ہے جہاں ہر انفرادی آؤٹ پٹ کو صرف مطلوبہ یا ناپسندیدہ نشان زد کیا جاتا ہے۔ یہ ایک انسانی آگاہی کا نقصان بناتا ہے جو نمونے میں ماڈل کی بہتری کو ایک حوالہ نقطہ کے نسبت نفع یا نقصان کے طور پر مانتا ہے، نقصان سے بچنے کا اطلاق کرتا ہے لہذا ناپسندیدہ نتائج کو مطلوبہ نتائج سے زیادہ سخت سزا دی جاتی ہے۔ یہ ٹیموں کو پروڈکشن ایپس میں پہلے سے جمع کیے گئے وافر انگوٹھوں/نیچے سگنلز کو استعمال کرنے دیتا ہے۔
حقیقی دنیا کا نفاذ
ترجیحی جوڑے بنائے بغیر اسے ٹھیک ٹیون کرنے کے لیے تعینات کردہ چیٹ بوٹ سے انگوٹھا اپ/تھمبس ڈاؤن کلکس کا استعمال
جب آپ کے پاس 'اچھے' اور 'خراب' جوابات کا ڈھیر ہو لیکن ایک جیسے اشارے کے لیے کوئی مماثل موازنہ نہ ہو تو ماڈل کو سیدھ میں لانا
ایک پروڈکٹ ٹیم کے ٹی او ٹریننگ میں اعتدال پسندی کے جھنڈے (ناپسندیدہ) اور محفوظ کردہ ردعمل (مطلوبہ) کو ری سائیکل کرتی ہے۔
غیرمتوازن آراء کو سنبھالنا جہاں ناپسندیدگی پسندیدگیوں سے کم ہوتی ہے کے ٹی او کے نقصان سے بچنے اور طبقاتی وزن کو ٹیوننگ کرکے
Kahneman-Tversky آپٹیمائزیشن کا مستقبل
KTO حقیقی مصنوعات کے لیے موزوں ہے، جہاں صارف قدرتی طور پر پسند یا ناپسند پر کلک کرتے ہیں لیکن شاذ و نادر ہی دو جوابات ساتھ ساتھ درجہ بندی کرتے ہیں۔ پروڈکشن فیڈ بیک کو ری سائیکل کرنے والے مسلسل بہتری والے لوپس کے لیے وسیع تر اختیار کی توقع کریں، نیز مطلوبہ سے ناپسندیدہ ڈیٹا کے تناسب اور نقصان سے بچنے والے وزن کو ٹیوننگ کرنے والی تحقیق۔ KTO کے رویے کی اقتصادیات کو دوسرے مقاصد کے ساتھ جوڑنا، اور اسے ملٹی موڈل فیڈ بیک پر لاگو کرنا، فعال سمتیں ہیں کیونکہ ٹیمیں گندے حقیقی دنیا کے سگنلز سے صف بندی کی کوشش کرتی ہیں۔
اسے عملی جامہ پہنانا
یہ کیوں اہمیت رکھتا ہے۔
- رفتار اور پیمانہ. زبان کے کام کے بہاؤ مستقل مزاجی کی قربانی کے بغیر تیزی سے آگے بڑھ سکتے ہیں۔
- رسائی اور رسائی. یہ زبانوں اور مواصلاتی طرزوں تک رسائی کو بڑھاتا ہے۔
- واضح فیصلے. ٹیمیں فیصلے پر زیادہ وقت گزار سکتی ہیں جبکہ آٹومیشن تکرار کو سنبھالتی ہے۔
پر نگاہ رکھیں
- گمراہ شدہ حقائق خاموشی سے رپورٹس، سپورٹ فلو، یا تحقیقی نتائج درج کر سکتے ہیں۔
- فوری حساسیت اسی طرح کی درخواستوں میں متضاد نتائج پیدا کر سکتی ہے۔
- اگر رسائی کے کنٹرول کمزور ہیں تو حساس ٹیکسٹ ڈیٹا کو بے نقاب کیا جا سکتا ہے۔
اگلے اقدامات
- رول آؤٹ سے پہلے آؤٹ پٹ فارمیٹ، ٹون اور معیار کے معیارات کی وضاحت کریں۔
- جب بھی درستگی اہمیت رکھتی ہے تو بھروسہ مند ذرائع کے ساتھ زمینی جوابات۔
- ہائی اسٹیک آؤٹ پٹس کے لیے ایک انسانی جائزہ چیک پوائنٹ رکھیں۔
- ناکامی کے نمونوں کو ٹریک کریں اور پرامپٹس یا ورک فلو کو باقاعدگی سے دوبارہ تربیت دیں۔
دریافت کرتے رہیں
مفت نیوز لیٹر
روزانہ AI بریفنگ حاصل کریں
ہر ہفتے کے دن صبح تین تصدیق شدہ AI کہانیاں، سادہ انگریزی میں لکھی گئیں۔ ہمیشہ کے لیے مفت، کوئی اشتہار نہیں۔
ہر ہفتے کے دن ایک ای میل۔ ایک کلک میں ان سبسکرائب کریں۔ ہم کبھی بھی آپ کا پتہ فروخت یا شیئر نہیں کرتے۔
اپنے آپ کو جانچیں۔
Take the Kahneman-Tversky Optimization quiz
ہر جواب پر فوری فیڈبیک، اور کورس پاس کرنے کے بعد قابلِ تصدیق ID کے ساتھ شیئر کرنے کے قابل سرٹیفکیٹ۔
مفت AI تعلیم کی حمایت کریں۔ AI Understanding ایک 501(c)(3) غیر منافع بخش ادارہ ہے — کوئی اشتہار نہیں، کوئی پے وال نہیں، کبھی نہیں۔ عطیہ کریں۔
اکثر پوچھے گئے سوالات
What is Kahneman-Tversky Optimization?
Kahneman-Tversky Optimization (KTO) ایک سیدھ میں لانے کا طریقہ ہے جو جوڑا موازنہ کے بجائے سادہ انگوٹھوں یا انگوٹھوں کے نیچے لیبل سے سیکھتا ہے۔ یہ اہمیت رکھتا ہے کیونکہ بائنری فیڈ بیک بہت آسان اور جمع کرنا سستا ہے اس درجہ بندی کے جوڑوں کے مقابلے میں جو زیادہ تر طریقوں کی مانگ ہے۔
KTO کو کس قسم کے ڈیٹا کی ضرورت ہے؟
KTO مماثل ترجیحی جوڑوں کے بجائے سادہ فی مثال انگوٹھوں کے اوپر/ڈاؤن لیبلز سے سیکھتا ہے۔
KTO کام کے کس جسم سے متاثر ہے؟
کے ٹی او نے نفع اور نقصان کو غیر متناسب طور پر قدر کرنے کے پراسپیکٹ تھیوری کے آئیڈیا کو ادھار لیا، اس لیے یہ نام۔
KTO میں استعمال ہونے والے 'نقصان سے بچنے' کیا ہے؟
پراسپیکٹ تھیوری کہتی ہے کہ نقصانات منافع سے زیادہ ہوتے ہیں، اس لیے KTO منفی انحرافات کو زیادہ وزن دیتا ہے۔
What kind of feedback can KTO learn from without requiring paired comparisons?
KTO’s paper studies alignment from binary desirable/undesirable feedback on individual outputs; it still needs appropriate data and setup.
کے ٹی او میں، انحراف کو کس چیز سے ماپا جاتا ہے؟
KTO کا ویلیو فنکشن فیصلہ کرتا ہے کہ آیا کوئی جواب حوالہ کی بنیاد کے اوپر یا نیچے بیٹھتا ہے، اسے فائدہ یا نقصان کے طور پر دیکھتا ہے۔
سیکھتے رہیں
متعلقہ گائیڈز
اس موضوع کے لیے مزید گائیڈز چنے گئے ہیں۔