Вікторина, пов’язана з посібником · Середній Рівень

Навчальна вікторина щодо посилення кількох агентів

Вивчіть, як кілька агентів навчання з підкріпленням навчаються в умовах спільних винагород, зміни опонентів, часткових поглядів і обмежень координації.

Питання 1 з 8

Що робить середовище «нестаціонарним» з точки зору одного агента в MARL?

Перегляньте кожне запитання8 запитання

Відповіді та пояснення з’являються під час виконання тесту.

  1. Що робить середовище «нестаціонарним» з точки зору одного агента в MARL?
    • Інші агенти одночасно вивчають і змінюють власні політики
    • Функція винагороди випадково скидається в кожному епізоді
    • Простір станів безмежно зростає з часом
    • Датчики повертають галасливі спостереження
  2. Що означає «централізоване навчання з децентралізованим виконанням» (CTDE)?
    • Агенти навчені та працюють на одному центральному сервері
    • Спільний критик використовує глобальну інформацію під час навчання, але агенти діють на основі локальних спостережень під час розгортання
    • Один головний агент видає команди всім іншим під час виконання
    • Дані про навчання централізовані, але винагороди децентралізовані
  3. Яка математична структура узагальнює одноагентний MDP для кількох агентів?
    • Лінійна програма
    • Прихована модель Маркова
    • Гра Маркова (стохастична гра)
    • Скінченний автомат
  4. Як зазвичай структурується винагорода в умовах суто спільної роботи MARL?
    • Кожен агент максимізує винагороду, яка є негативною для іншого
    • Тільки найшвидший агент отримує винагороду
    • Нагороди призначаються випадковим чином за кожен крок
    • Агенти ділять спільну командну винагороду, яку вони разом максимізують
  5. Which training approach did OpenAI Five use to improve at Dota 2?
    • Self-play against copies of its own current and past policies
    • A fixed lookup table of human moves
    • A supervised-only classifier trained on image labels
    • A single policy trained only against a static scripted opponent
  6. Чому «переуступка кредиту» особливо складна в кооперативі MARL?
    • Нагороди надходять миттєво, їх легко відстежити
    • Важко визначити, дії якого агента сприяли результату спільної команди
    • Винагороду отримує лише один агент
    • Агенти взагалі не можуть спостерігати за винагородою
  7. What structural constraint does QMIX place on its mixing network?
    • It must be a linear sum with fixed weights
    • It ignores all individual agent values
    • The joint action-value is monotonic in each agent’s individual value
    • It requires communication at every action step
  8. How does Value Decomposition Networks (VDN) form the team action-value?
    • By multiplying all rewards by the number of agents
    • By selecting the largest local reward only
    • By training a separate team for each agent
    • By summing the individual agents’ action-values