اختبار مرتبط بالدليل · متوسط المستوى

اختبار التعلم المعزز متعدد الوكلاء

دراسة كيفية تعلم العديد من عملاء التعلم المعزز في ظل المكافآت المشتركة، وتغيير المعارضين، ووجهات النظر الجزئية، وقيود التنسيق.

مسارات الدليل ذات الصلةالتعلم المعزز متعدد الوكلاء
سؤال 1 من 8

ما الذي يجعل البيئة "غير ثابتة" من وجهة نظر أحد الوكلاء في MARL؟

معاينة كل سؤال8 أسئلة

تظهر الإجابات والتفسيرات أثناء إجراء الاختبار.

  1. ما الذي يجعل البيئة "غير ثابتة" من وجهة نظر أحد الوكلاء في MARL؟
    • ويتعلم الوكلاء الآخرون في نفس الوقت ويغيرون سياساتهم الخاصة
    • يتم إعادة تعيين وظيفة المكافأة بشكل عشوائي في كل حلقة
    • مساحة الدولة تنمو بلا حدود مع مرور الوقت
    • تقوم أجهزة الاستشعار بإرجاع الملاحظات الصاخبة
  2. ماذا يعني "التدريب المركزي مع التنفيذ اللامركزي" (CTDE)؟
    • يتم تدريب الوكلاء وتشغيلهم على خادم مركزي واحد
    • يستخدم الناقد المشترك المعلومات العالمية أثناء التدريب، لكن الوكلاء يتصرفون بناءً على الملاحظات المحلية عند النشر
    • يقوم وكيل رئيسي واحد بإصدار الأوامر لجميع الآخرين في وقت التشغيل
    • بيانات التدريب مركزية ولكن المكافآت لا مركزية
  3. ما هو الإطار الرياضي الذي يعمم MDP ذو الوكيل الفردي على وكلاء متعددين؟
    • برنامج خطي
    • نموذج ماركوف المخفي
    • لعبة ماركوف (لعبة عشوائية)
    • إنسان آلي ذو حالة محدودة
  4. في بيئة MARL التعاونية البحتة، كيف يتم تنظيم المكافأة عادةً؟
    • يقوم كل وكيل بتعظيم المكافأة السلبية للآخر
    • فقط أسرع وكيل يحصل على أي مكافأة
    • يتم تعيين المكافآت بشكل عشوائي في كل خطوة
    • يتقاسم الوكلاء مكافأة جماعية مشتركة يقومون بتعظيمها بشكل مشترك
  5. أي نهج تدريبي استخدمه OpenAI Five لتحسين أدائه في Dota 2؟
    • Self-play against copies of its own current and past policies
    • A fixed lookup table of human moves
    • A supervised-only classifier trained on image labels
    • A single policy trained only against a static scripted opponent
  6. لماذا يعتبر "تخصيص الائتمان" صعبًا بشكل خاص في MARL التعاونية؟
    • تصل المكافآت على الفور ويسهل تتبعها
    • من الصعب تحديد تصرفات الوكيل التي ساهمت في نتيجة الفريق المشتركة
    • لا يوجد سوى وكيل واحد يتلقى المكافأة
    • لا يمكن للوكلاء ملاحظة أي مكافأة على الإطلاق
  7. What structural constraint does QMIX place on its mixing network?
    • It must be a linear sum with fixed weights
    • It ignores all individual agent values
    • The joint action-value is monotonic in each agent’s individual value
    • It requires communication at every action step
  8. How does Value Decomposition Networks (VDN) form the team action-value?
    • By multiplying all rewards by the number of agents
    • By selecting the largest local reward only
    • By training a separate team for each agent
    • By summing the individual agents’ action-values