دليل اللغة AI
تحسين كانيمان-تفرسكي
إن تحسين Kahneman-Tversky (KTO) هو أسلوب محاذاة يتعلم من التسميات البسيطة التي تشير إلى الإعجاب أو الإعجاب إلى الأسفل بدلاً من المقارنات المقترنة.
استمع إلى هذا الدليلرواه الذكاء الاصطناعي · ~2 min
في هذه الصفحةقراءة لمدة دقيقتين
نظرة عامة
It matters because binary feedback is far easier and cheaper to collect than the ranked pairs most methods demand.
الغوص العميق
KTO، التي قدمها إيثاياراج وزملاؤه في جامعة ستانفورد والذكاء الاصطناعي السياقي في عام 2024، تستعير من نظرية الاحتمال، العمل الحائز على جائزة نوبل لدانييل كانيمان وآموس تفيرسكي حول كيفية تقييم البشر للمكاسب والخسائر. تحتاج الطرق القياسية مثل DPO إلى أزواج تفضيلية: إجابة مختارة وإجابة مرفوضة لنفس الموجه. تعمل KTO بدلاً من ذلك مع البيانات غير المقترنة حيث يتم ببساطة تمييز كل مخرجات فردية بأنها مرغوبة أو غير مرغوب فيها. إنه يبني خسارة مدركة للإنسان والتي تتعامل مع تحسين النموذج على عينة على أنه مكسب أو خسارة بالنسبة إلى نقطة مرجعية، مع تطبيق تجنب الخسارة بحيث تتم معاقبة المخرجات غير المرغوب فيها بشكل أكثر حدة من مكافأة المخرجات المرغوبة. يتيح ذلك للفرق استخدام إشارات الإعجاب/الرفض الوفيرة التي تم جمعها بالفعل في تطبيقات الإنتاج.
التنفيذ في العالم الحقيقي
استخدام نقرات الإبهام لأعلى/الإبهام للأسفل من برنامج الدردشة المنتشر لضبطه دون إنشاء أزواج تفضيلات على الإطلاق
محاذاة النموذج عندما يكون لديك كومة من الإجابات "الجيدة" و"السيئة" ولكن لا توجد مقارنات متطابقة لنفس المطالبات
يقوم فريق المنتج بإعادة تدوير إشارات الاعتدال (غير المرغوب فيها) والاستجابات المحفوظة (مرغوب فيه) في تدريب KTO
التعامل مع التعليقات غير المتوازنة حيث تكون عدم الإعجاب أكثر ندرة من الإعجابات من خلال ضبط النفور من الخسارة وأوزان الفئة في KTO
مستقبل تحسين كانيمان-تفرسكي
تعتبر KTO مناسبة تمامًا للمنتجات الحقيقية، حيث ينقر المستخدمون بشكل طبيعي على "أعجبني" أو "لم يعجبني" ولكن نادرًا ما يرتبون إجابتين جنبًا إلى جنب. توقع اعتمادًا أوسع لحلقات التحسين المستمر التي تعيد تدوير تعليقات الإنتاج، بالإضافة إلى البحث في ضبط نسبة البيانات المرغوبة إلى غير المرغوب فيها ووزن تجنب الخسارة. يعد الجمع بين إطار الاقتصاد السلوكي لـ KTO والأهداف الأخرى، وتطبيقه على ردود الفعل متعددة الوسائط، بمثابة اتجاهات نشطة حيث تسعى الفرق إلى التوافق مع إشارات العالم الحقيقي الفوضوية.
وضعها موضع التنفيذ
لماذا يهم
- السرعة والحجم. يمكن أن تتحرك مسارات عمل اللغة بشكل أسرع دون التضحية بالاتساق.
- الوصول والوصول. فهو يوسع الوصول عبر اللغات وأنماط الاتصال.
- قرارات أوضح. يمكن للفرق قضاء المزيد من الوقت في الحكم بينما تتعامل الأتمتة مع التكرار.
احترس من
- يمكن للحقائق المهلوسة إدخال التقارير أو تدفقات الدعم أو مخرجات البحث بهدوء.
- يمكن أن تؤدي الحساسية السريعة إلى نتائج غير متناسقة عبر الطلبات المماثلة.
- قد يتم كشف البيانات النصية الحساسة إذا كانت عناصر التحكم في الوصول ضعيفة.
الخطوات التالية
- حدد تنسيق الإخراج والنغمة ومعايير الجودة قبل بدء التشغيل.
- استجابات أرضية من مصادر موثوقة عندما تكون الدقة مهمة.
- احتفظ بنقطة تفتيش للمراجعة البشرية للمخرجات عالية المخاطر.
- تتبع أنماط الفشل وأعد تدريب المطالبات أو سير العمل بانتظام.
استمر في الاستكشاف
رسالة إخبارية مجانية
احصل على الإحاطة اليومية لمنظمة العفو الدولية
ثلاث قصص تم التحقق منها بواسطة الذكاء الاصطناعي كل صباح من أيام الأسبوع، مكتوبة باللغة الإنجليزية البسيطة. مجاني للأبد، بدون إعلانات.
بريد إلكتروني واحد كل يوم من أيام الأسبوع. إلغاء الاشتراك بنقرة واحدة. نحن لا نبيع أو نشارك عنوانك أبدًا.
اختبر نفسك
Take the Kahneman-Tversky Optimization quiz
تعليقات فورية على كل إجابة، وشهادة قابلة للمشاركة مع معرف يمكن التحقق منه بمجرد اجتياز الدورة التدريبية.
دعم تعليم الذكاء الاصطناعي المجاني. AI Understanding هي منظمة 501(c)(3) غير ربحية - لا إعلانات ولا نظام حظر الاشتراك غير المدفوع على الإطلاق. قم بالتبرع
الأسئلة المتداولة
What is Kahneman-Tversky Optimization?
إن تحسين Kahneman-Tversky (KTO) هو أسلوب محاذاة يتعلم من التسميات البسيطة التي تشير إلى الإعجاب أو الإعجاب إلى الأسفل بدلاً من المقارنات المقترنة. هذا مهم لأن جمع التعليقات الثنائية أسهل بكثير وأرخص من الأزواج المرتبة التي تتطلبها معظم الطرق.
ما نوع البيانات التي تتطلبها KTO؟
تتعلم KTO من التسميات البسيطة لكل مثال، بدلاً من أزواج التفضيلات المتطابقة.
KTO مستوحاة من أي مجموعة من الأعمال؟
تستعير KTO فكرة نظرية الاحتمالية لتقييم المكاسب والخسائر بشكل غير متماثل، ومن هنا جاء الاسم.
ما هو "النفور من الخسارة" كما هو مستخدم في KTO؟
تقول نظرية الاحتمال أن الخسائر تلوح في الأفق أكبر من المكاسب، لذا فإن KTO تزن الانحرافات السلبية بشكل أكبر.
What kind of feedback can KTO learn from without requiring paired comparisons?
KTO’s paper studies alignment from binary desirable/undesirable feedback on individual outputs; it still needs appropriate data and setup.
في KTO، يتم قياس الانحرافات بالنسبة إلى ماذا؟
تحدد دالة القيمة في KTO ما إذا كانت الاستجابة أعلى أو أسفل خط الأساس المرجعي، وتعامل ذلك على أنه مكسب أو خسارة.
استمر في التعلم
أدلة ذات صلة
تم اختيار المزيد من الأدلة لهذا الموضوع