Quiz lié à un guide · Moyen Niveau

Quiz d'apprentissage par renforcement multi-agents

Étudiez comment plusieurs agents d'apprentissage par renforcement apprennent sous des récompenses partagées, des adversaires changeants, des vues partielles et des contraintes de coordination.

Question 1 de 8

Qu'est-ce qui rend l'environnement « non stationnaire » du point de vue d'un agent dans MARL ?

Prévisualisez chaque question8 des questions

Les réponses et les explications apparaissent au fur et à mesure que vous répondez au quiz.

  1. Qu'est-ce qui rend l'environnement « non stationnaire » du point de vue d'un agent dans MARL ?
    • D’autres agents apprennent et modifient simultanément leurs propres politiques
    • La fonction de récompense est réinitialisée de manière aléatoire à chaque épisode
    • L’espace d’état s’agrandit sans limite au fil du temps
    • Les capteurs renvoient des observations bruyantes
  2. Que signifie « formation centralisée à exécution décentralisée » (CTDE) ?
    • Les agents sont formés et exécutés sur un seul serveur central
    • Un critique partagé utilise des informations globales pendant la formation, mais les agents agissent sur la base d'observations locales lors du déploiement.
    • Un agent maître envoie des commandes à tous les autres au moment de l'exécution
    • Les données de formation sont centralisées mais les récompenses sont décentralisées
  3. Quel cadre mathématique généralise le MDP mono-agent à plusieurs agents ?
    • Un programme linéaire
    • Un modèle de Markov caché
    • Un jeu de Markov (jeu stochastique)
    • Un automate à états finis
  4. Dans un environnement MARL purement coopératif, comment la récompense est-elle généralement structurée ?
    • Chaque agent maximise une récompense qui est négative par rapport à celle d'un autre.
    • Seul l'agent le plus rapide reçoit une récompense
    • Les récompenses sont attribuées aléatoirement à chaque étape
    • Les agents partagent une récompense d'équipe commune qu'ils maximisent ensemble
  5. Which training approach did OpenAI Five use to improve at Dota 2?
    • Self-play against copies of its own current and past policies
    • A fixed lookup table of human moves
    • A supervised-only classifier trained on image labels
    • A single policy trained only against a static scripted opponent
  6. Pourquoi l'« attribution de crédit » est-elle particulièrement difficile dans la coopérative MARL ?
    • Les récompenses arrivent instantanément et sont faciles à retracer
    • Il est difficile de déterminer quels actions d'un agent ont contribué à un résultat partagé par l'équipe
    • Il n'y a qu'un seul agent qui reçoit une récompense
    • Les agents ne peuvent observer aucune récompense
  7. What structural constraint does QMIX place on its mixing network?
    • It must be a linear sum with fixed weights
    • It ignores all individual agent values
    • The joint action-value is monotonic in each agent’s individual value
    • It requires communication at every action step
  8. How does Value Decomposition Networks (VDN) form the team action-value?
    • By multiplying all rewards by the number of agents
    • By selecting the largest local reward only
    • By training a separate team for each agent
    • By summing the individual agents’ action-values