Agents Génératifs et Sociétés Simulées
Les agents génératifs sont des personnages d'IA alimentés par des modèles de langage qui se souviennent, planifient et réagissent comme des personnes crédibles.
Aperçu
Placed together in a simulated world, they form tiny societies where social behavior emerges on its own.
Plongée profonde
Dans un projet Stanford et Google de 2023 appelé Smallville, les chercheurs ont placé 25 agents pilotés par GPT-3.5 dans une ville bac à sable et les ont observés se comporter comme une communauté. Chaque agent avait une courte biographie et se réveillait, préparait le petit-déjeuner, se rendait au travail et discutait avec les voisins. Surtout, le comportement n’était pas programmé. Un agent a décidé d'organiser une fête pour la Saint-Valentin et, sur deux jours simulés, l'invitation s'est répandue de bouche à oreille, les agents ont coordonné les horaires et plusieurs se sont présentés ensemble. L'architecture combine un flux de mémoire, une récupération, une réflexion et une planification, de sorte que les agents agissent de manière cohérente sur de longues périodes plutôt que d'oublier ce qui s'est passé il y a quelques minutes.
Aperçu technique
L'astuce principale est un flux de mémoire : un long journal horodaté de tout ce qu'un agent observe. Pour agir, l'agent récupère les souvenirs pertinents classés par récence, importance et similitude avec la situation actuelle, puis les transmet à l'invite du modèle de langage. Des étapes de réflexion périodiques résument les souvenirs bruts en informations de niveau supérieur (par exemple, en déduisant que quelqu'un est passionné par la recherche), qui sont stockées et guident la planification et le dialogue futurs.
Impact stratégique
Coût et budget
Les décisions en matière d'architecture déterminent les performances et les coûts d'exploitation pendant des années.
Décisions plus claires
La formation technique aide les équipes à choisir la bonne pile, pas seulement la plus récente.
Contrôle qualité
De meilleurs choix d’ingénierie réduisent les incidents de fiabilité en production.
L'avenir des agents générateurs et des sociétés simulées
Attendez-vous à ce que des agents génératifs alimentent des personnages non-joueurs plus riches dans les jeux, des simulations de formation pour la négociation ou la réponse aux crises, et des populations tests synthétiques pour étudier comment les rumeurs, les prix ou les politiques se propagent avant leur déploiement dans le monde réel. À mesure que les modèles deviennent moins chers et que les fenêtres contextuelles s’étendent, les simulations passeront de dizaines à des milliers d’agents. Les chercheurs les étudient également en tant que laboratoires de sciences sociales, tout en soulevant des questions ouvertes sur les préjugés, la manipulation et la fidélité avec laquelle ces sociétés de jouets reflètent les humains.
Mise en œuvre dans le monde réel
Simulation Smallville de Stanford où 25 agents ont organisé et assisté de manière autonome à une fête de la Saint-Valentin
Des PNJ crédibles et axés sur la mémoire dans les jeux vidéo, qui se souviennent des interactions passées des joueurs et gardent des rancunes ou des amitiés.
Groupes de discussion synthétiques qui jouent le rôle de divers clients pour pré-tester les messages marketing ou les fonctionnalités du produit
Simulateurs de formation dans lesquels des citadins IA réagissent aux décisions d'un stagiaire lors d'exercices d'intervention en cas de catastrophe ou de diplomatie
Risques et garde-fous
L’optimisation d’un benchmark peut masquer des faiblesses plus larges du système.
Les coûts d’infrastructure et de maintenance sont souvent sous-estimés.
Les lacunes en matière de sécurité et d’observabilité peuvent se creuser à mesure que les systèmes deviennent plus complexes.
Feuille de route de mise en œuvre
Définissez les objectifs de latence, de qualité et de coût avant la mise en œuvre.
Benchmark dans des conditions de charge et de données réalistes.
Surveillance des instruments pour détecter les erreurs, la dérive et l'impact sur l'utilisateur.
Préparez les chemins de restauration et de réponse aux incidents avant la mise à l’échelle.
Continuez à explorer
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Generative Agents and Simulated Societies quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Guide suivant
Auto-réflexion dans les boucles d'agent
Questions fréquemment posées
What is Generative Agents and Simulated Societies?
Les agents génératifs sont des personnages d'IA alimentés par des modèles de langage qui se souviennent, planifient et réagissent comme des personnes crédibles. Placés ensemble dans un monde simulé, ils forment de minuscules sociétés où le comportement social émerge de lui-même.
Quel comportement célèbre est apparu tout seul dans la simulation Smallville de Stanford ?
Un agent a décidé d'organiser une fête pour la Saint-Valentin, et l'invitation s'est propagée socialement jusqu'à ce que plusieurs agents se coordonnent et se présentent, dont aucun n'était prévu.
Qu'est-ce que le « flux de mémoire » dans un agent générateur ?
Le flux mémoire est un long enregistrement horodaté des observations de l'agent, sur lequel le système s'appuie pour éclairer les actions et les conversations.
Lorsqu’un agent décide comment agir, comment les souvenirs pertinents sont-ils choisis ?
La récupération classe les souvenirs en fonction de leur récence, de leur importance et de leur similarité avec la situation actuelle, puis insère les plus importants dans l'invite.
À quoi sert l'étape de « réflexion » dans l'architecture de l'agent ?
La réflexion synthétise périodiquement de nombreuses observations de bas niveau en conclusions abstraites (comme des traits de personnalité ou des objectifs) qui guident le comportement ultérieur.
Pourquoi la planification est-elle importante pour les agents crédibles ?
La planification, combinée à la mémoire et à la réflexion, maintient la cohérence des actions d'un agent tout au long d'une journée simulée complète plutôt que de se contredire d'un instant à l'autre.