生成代理和模拟社会
生成代理是由语言模型驱动的人工智能角色，可以像可信的人一样进行记忆、计划和反应。
概述
Placed together in a simulated world, they form tiny societies where social behavior emerges on its own.
深入探讨
在 2023 年斯坦福大学和 Google 的一个名为 Smallville 的项目中，研究人员将 25 个由 GPT-3.5 驱动的智能体放置到一个沙盒城镇中，观察它们的行为就像一个社区。每个特工都有一个简短的传记，然后醒来，煮早餐，上班，和邻居聊天。至关重要的是，行为不是照本宣科的。一位特工决定举办一场情人节派对，在模拟的两天里，邀请通过口口相传，特工们协调了时间，几个人一起出现了。该架构结合了记忆流、检索、反思和规划，因此代理可以在很长一段时间内一致地行动，而不是忘记几分钟前发生的事情。
技术洞察
核心技巧是内存流：代理观察到的所有内容的长的、带时间戳的日志。为了采取行动，智能体检索根据新近度、重要性和与当前情况的相似度评分的相关记忆，然后将它们输入到语言模型提示中。定期的反思步骤将原始记忆总结为更高层次的见解（例如，推断某人对研究充满热情），这些见解被存储起来并指导未来的计划和对话。
战略影响
成本与预算
多年来，架构决策决定着性能和运营成本。
更清晰的判决
技术教育帮助团队选择正确的堆栈，而不仅仅是最新的堆栈。
质量控制
更好的工程选择可以减少生产中的可靠性事故。
生成代理和模拟社会的未来
期望生成代理能够为游戏中更富有的非玩家角色提供支持，训练模拟以进行谈判或危机应对，并进行综合测试群体以研究谣言、价格或政策在现实世界推出之前如何传播。随着模型变得越来越便宜和上下文窗口扩大，模拟将从数十个代理扩展到数千个代理。研究人员还将它们作为社会科学实验室进行探索，同时提出了有关偏见、操纵以及这些玩具社会如何忠实地反映人类的开放性问题。
现实世界的实施
斯坦福大学的《超人前传》模拟中，25 名特工自主组织并参加了情人节派对
视频游戏中可信的、由记忆驱动的 NPC 会记住过去玩家的互动，并怀有怨恨或友谊
综合焦点小组对不同的客户角色进行角色扮演，以预先测试营销信息或产品功能
训练模拟器，人工智能城镇居民在灾难响应或外交演习中对受训者的决定做出反应
风险与防护栏
优化一项基准测试可以隐藏更广泛的系统弱点。
基础设施和维护成本常常被低估。
随着系统变得更加复杂，安全性和可观察性差距可能会扩大。
实施路线图
在实施之前定义延迟、质量和成本目标。
在实际负载和数据条件下进行基准测试。
仪器监控错误、漂移和用户影响。
在扩展之前准备回滚和事件响应路径。
不断探索
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Generative Agents and Simulated Societies quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
常见问题
What is Generative Agents and Simulated Societies?
生成代理是由语言模型驱动的人工智能角色，可以像可信的人一样进行记忆、计划和反应。它们被放置在一个模拟世界中，形成了微型社会，社会行为在其中自行出现。
斯坦福大学的《超人前传》模拟中出现了哪些著名的行为？
一位特工决定举办一场情人节派对，邀请函在社交媒体上传播，直到几位特工协调并出现，但这些活动都没有剧本。
生成代理中的“记忆流”是什么？
内存流是代理观察的长的、带时间戳的记录，系统利用它来通知操作和对话。
当智能体决定如何行动时，相关记忆是如何选择的？
检索根据新近度、重要性和与当前情况的相似性对记忆进行排序，然后将最重要的记忆输入提示中。
“反射”步骤在代理架构中起什么作用？
反思定期将许多低水平的观察结果综合成指导以后行为的抽象结论（如人格特质或目标）。
为什么规划对于可信的代理商很重要？
计划与记忆和反思相结合，可以使代理在整个模拟的一天中的行为保持一致，而不是时刻自相矛盾。