GUIDE des fondamentaux

Modèles mondiaux et simulateurs appris

Un modèle du monde prédit la dynamique de l'environnement à partir d'observations et d'actions.

Écoutez ce guideNarré par l'IA · ~2 min

Sur cette page2 minutes de lecture
  1. Aperçu
  2. Plongée profonde
  3. Mise en œuvre dans le monde réel
  4. L’avenir des modèles mondiaux et des simulateurs appris
  5. Le mettre en pratique
  6. Continuez à explorer
  7. Questions fréquemment posées

Aperçu

Les articles cités World Models, DreamerV3, Genie et GameNGen démontrent différents contextes de simulation apprise.

Plongée profonde

Les modèles du monde apprennent des représentations et une dynamique qui prédisent comment un environnement évolue en fonction des actions. Les travaux de Ha et Schmidhuber en 2018 ont utilisé un autoencodeur variationnel pour encoder les observations et un modèle récurrent pour la dynamique latente. Leur expérience CarRacing a utilisé ces caractéristiques apprises pour le contrôle. Dans l'expérience distincte DoomTakeCover, le contrôleur a été entraîné à l'intérieur de l'environnement appris DoomRNN puis évalué dans le jeu réel ; les auteurs n'ont pas entraîné ce contrôleur directement dans VizDoom. DreamerV3 rapporte la collecte de diamants dans Minecraft à partir de zéro sans démonstrations humaines, en utilisant l'apprentissage de politique à partir de trajectoires imaginées dans son cadre évalué. Genie apprend des environnements interactifs à partir de vidéos Internet non étiquetées et peut conditionner un environnement généré sur une image. GameNGen démontre un simulateur appris pour DOOM. Il s'agit de contextes de recherche différents, et non de la preuve qu'un simulateur peut reproduire de manière fiable chaque jeu ou environnement physique.

Mise en œuvre dans le monde réel

2018 World Models : le contrôleur DoomTakeCover a été entraîné dans l'environnement virtuel appris DoomRNN et transféré vers l'environnement de jeu réel.

DreamerV3 : l'article indique la collecte de diamants dans Minecraft à partir de zéro, sans démonstrations humaines, dans son cadre d'évaluation.

Genie : l'article s'entraîne sur des vidéos Internet non étiquetées et conditionne des mondes interactifs générés à partir d'images.

GameNGen : l'article démontre un simulateur appris pour le jeu DOOM nommé.

L’avenir des modèles mondiaux et des simulateurs appris

Une orientation de recherche consiste à mesurer la précision prédictive à long horizon et le transfert de politique pour la tâche visée. Validez l'expérience imaginée par rapport à l'environnement réel avant de vous y fier pour des décisions critiques en matière de sécurité.

Le mettre en pratique

Pourquoi c'est important

  • Décisions plus claires. Il vous aide à séparer les affirmations techniques claires du langage marketing.
  • Coût et budget. Vous pouvez poser de meilleures questions de mise en œuvre avant de dépenser de l'argent ou du temps.
  • Équipe et flux de travail. Les équipes partageant une compréhension commune prennent de meilleures décisions en matière de produits, de politiques et d’apprentissage.

Attention à

  • Différentes équipes peuvent utiliser le même terme différemment, alors définissez la portée dès le début.
  • Les benchmarks peuvent paraître solides alors que les performances réelles sont inégales.
  • Ignorer la qualité des données et les plans d’évaluation crée souvent des résultats fragiles.

Prochaines étapes

  1. Commencez par une définition en langage simple du résultat dont vous avez besoin.
  2. Choisissez une mesure de réussite et une condition d’échec avant de tester.
  3. Exécutez un petit pilote avec des données représentatives, pas un ensemble de démonstration raffiné.
  4. Documentez où les modèles mondiaux et les simulateurs appris sont utiles et où les méthodes plus simples sont meilleures.

Continuez à explorer

Newsletter gratuite

Recevez le briefing quotidien sur l'IA

Trois histoires d'IA vérifiées chaque matin de la semaine, écrites dans un anglais simple. Gratuit pour toujours, sans publicité.

Un e-mail chaque jour de la semaine. Désabonnez-vous en un clic. Nous ne vendons ni ne partageons jamais votre adresse.

Testez-vous

Répondez au quiz sur les modèles du monde et les simulateurs appris

Commentaires instantanés sur chaque réponse et un certificat partageable avec une pièce d'identité vérifiable une fois que vous avez réussi un cours.

Démarrer le quiz

Soutenez l’enseignement gratuit de l’IA. AI Understanding est une organisation à but non lucratif 501(c)(3) : pas de publicité, pas de paywall, jamais. Faire un don

Questions fréquemment posées

Qu’est-ce que les modèles mondiaux et les simulateurs appris ?

Un modèle du monde prédit la dynamique de l'environnement à partir d'observations et d'actions. Les articles cités World Models, DreamerV3, Genie et GameNGen démontrent différents contextes de simulation apprise.

Quelle est la tâche principale d’un modèle mondial ?

Un modèle mondial apprend la dynamique de l'environnement : à partir d'un état actuel et d'une action, il prédit la prochaine observation (et souvent la récompense), permettant ainsi des déploiements imaginés.

Dans l'expérience DoomTakeCover de World Models de 2018, où le contrôleur a-t-il été entraîné ?

Les auteurs ont entraîné le contrôleur au sein de leur environnement appris DoomRNN et l'ont transféré vers l'environnement réel DoomTakeCover. Ceci est distinct de leur expérience d'extraction de caractéristiques CarRacing.

Quel exploit notable le DreamerV3 de DeepMind a-t-il réalisé ?

DreamerV3 rapporte l'atteinte du succès du diamant dans Minecraft à partir de zéro sans démonstrations humaines dans son cadre évalué, en utilisant un modèle du monde appris pour l'apprentissage de politique.

Que fait le Génie de Google ?

Genie est un environnement interactif génératif qui apprend de la vidéo non étiquetée pour produire des mondes 2D contrôlables par l'action.

Comment de nombreux modèles mondiaux permettent-ils de résoudre le problème de prédiction pour des entrées de grande dimension telles que des images ?

Les observations sont codées dans un état latent de faible dimension et la fonction de transition prédit le prochain état latent, ce qui rend les déploiements efficaces.