À suivreGuide suivant
Auto-réflexion dans les boucles d'agent
Technique
GUIDE Technique
Agents Génératifs et Sociétés Simulées
Les agents génératifs sont des personnages d'IA alimentés par des modèles de langage qui se souviennent, planifient et réagissent comme des personnes crédibles.
Écoutez ce guideNarré par l'IA · ~2 min
Sur cette page2 minutes de lecture
Aperçu
Placed together in a simulated world, they form tiny societies where social behavior emerges on its own.
Plongée profonde
Dans un projet Stanford et Google de 2023 appelé Smallville, les chercheurs ont placé 25 agents pilotés par GPT-3.5 dans une ville bac à sable et les ont observés se comporter comme une communauté. Chaque agent avait une courte biographie et se réveillait, préparait le petit-déjeuner, se rendait au travail et discutait avec les voisins. Surtout, le comportement n’était pas programmé. Un agent a décidé d'organiser une fête pour la Saint-Valentin et, sur deux jours simulés, l'invitation s'est répandue de bouche à oreille, les agents ont coordonné les horaires et plusieurs se sont présentés ensemble. L'architecture combine un flux de mémoire, une récupération, une réflexion et une planification, de sorte que les agents agissent de manière cohérente sur de longues périodes plutôt que d'oublier ce qui s'est passé il y a quelques minutes.
Mise en œuvre dans le monde réel
Simulation Smallville de Stanford où 25 agents ont organisé et assisté de manière autonome à une fête de la Saint-Valentin
Des PNJ crédibles et axés sur la mémoire dans les jeux vidéo, qui se souviennent des interactions passées des joueurs et gardent des rancunes ou des amitiés.
Groupes de discussion synthétiques qui jouent le rôle de divers clients pour pré-tester les messages marketing ou les fonctionnalités du produit
Simulateurs de formation dans lesquels des citadins IA réagissent aux décisions d'un stagiaire lors d'exercices d'intervention en cas de catastrophe ou de diplomatie
L'avenir des agents générateurs et des sociétés simulées
Attendez-vous à ce que des agents génératifs alimentent des personnages non-joueurs plus riches dans les jeux, des simulations de formation pour la négociation ou la réponse aux crises, et des populations tests synthétiques pour étudier comment les rumeurs, les prix ou les politiques se propagent avant leur déploiement dans le monde réel. À mesure que les modèles deviennent moins chers et que les fenêtres contextuelles s’étendent, les simulations passeront de dizaines à des milliers d’agents. Les chercheurs les étudient également en tant que laboratoires de sciences sociales, tout en soulevant des questions ouvertes sur les préjugés, la manipulation et la fidélité avec laquelle ces sociétés de jouets reflètent les humains.
Le mettre en pratique
Pourquoi c'est important
- Coût et budget. Les décisions en matière d'architecture déterminent les performances et les coûts d'exploitation pendant des années.
- Décisions plus claires. La formation technique aide les équipes à choisir la bonne pile, pas seulement la plus récente.
- Contrôle qualité. De meilleurs choix d’ingénierie réduisent les incidents de fiabilité en production.
Attention à
- L’optimisation d’un benchmark peut masquer des faiblesses plus larges du système.
- Les coûts d’infrastructure et de maintenance sont souvent sous-estimés.
- Les lacunes en matière de sécurité et d’observabilité peuvent se creuser à mesure que les systèmes deviennent plus complexes.
Prochaines étapes
- Définissez les objectifs de latence, de qualité et de coût avant la mise en œuvre.
- Benchmark dans des conditions de charge et de données réalistes.
- Surveillance des instruments pour détecter les erreurs, la dérive et l'impact sur l'utilisateur.
- Préparez les chemins de restauration et de réponse aux incidents avant la mise à l’échelle.
Continuez à explorer
Newsletter gratuite
Recevez le briefing quotidien sur l'IA
Trois histoires d'IA vérifiées chaque matin de la semaine, écrites dans un anglais simple. Gratuit pour toujours, sans publicité.
Un e-mail chaque jour de la semaine. Désabonnez-vous en un clic. Nous ne vendons ni ne partageons jamais votre adresse.
Testez-vous
Take the Generative Agents and Simulated Societies quiz
Commentaires instantanés sur chaque réponse et un certificat partageable avec une pièce d'identité vérifiable une fois que vous avez réussi un cours.
Soutenez l’enseignement gratuit de l’IA. AI Understanding est une organisation à but non lucratif 501(c)(3) : pas de publicité, pas de paywall, jamais. Faire un don
Questions fréquemment posées
What is Generative Agents and Simulated Societies?
Les agents génératifs sont des personnages d'IA alimentés par des modèles de langage qui se souviennent, planifient et réagissent comme des personnes crédibles. Placés ensemble dans un monde simulé, ils forment de minuscules sociétés où le comportement social émerge de lui-même.
Quel comportement célèbre est apparu tout seul dans la simulation Smallville de Stanford ?
Un agent a décidé d'organiser une fête pour la Saint-Valentin, et l'invitation s'est propagée socialement jusqu'à ce que plusieurs agents se coordonnent et se présentent, dont aucun n'était prévu.
Qu'est-ce que le « flux de mémoire » dans un agent générateur ?
Le flux mémoire est un long enregistrement horodaté des observations de l'agent, sur lequel le système s'appuie pour éclairer les actions et les conversations.
Lorsqu’un agent décide comment agir, comment les souvenirs pertinents sont-ils choisis ?
La récupération classe les souvenirs en fonction de leur récence, de leur importance et de leur similarité avec la situation actuelle, puis insère les plus importants dans l'invite.
À quoi sert l'étape de « réflexion » dans l'architecture de l'agent ?
La réflexion synthétise périodiquement de nombreuses observations de bas niveau en conclusions abstraites (comme des traits de personnalité ou des objectifs) qui guident le comportement ultérieur.
Pourquoi la planification est-elle importante pour les agents crédibles ?
La planification, combinée à la mémoire et à la réflexion, maintient la cohérence des actions d'un agent tout au long d'une journée simulée complète plutôt que de se contredire d'un instant à l'autre.
Continuez à apprendre
Guides associés
Plus de guides sélectionnés pour ce sujet