生成代理和模擬社會
生成代理是由語言模型驅動的人工智慧角色，可以像可信的人一樣進行記憶、計劃和反應。
概述
Placed together in a simulated world, they form tiny societies where social behavior emerges on its own.
深入探討
在 2023 年史丹佛大學和 Google 的一個名為 Smallville 的計畫中，研究人員將 25 個由 GPT-3.5 驅動的智能體放置到一個沙盒城鎮中，觀察它們的行為就像一個社區。每個特工都有一個簡短的傳記，然後醒來，煮早餐，上班，和鄰居聊天。至關重要的是，行為不是照本宣科的。一位特工決定舉辦情人節派對，在模擬的兩天裡，邀請透過口耳相傳，特工們協調了時間，幾個人一起出現了。該架構結合了記憶流、檢索、反思和規劃，因此代理人可以在很長一段時間內一致地行動，而不是忘記幾分鐘前發生的事情。
技術洞察
核心技巧是記憶體流：代理觀察到的所有內容的長的、帶有時間戳記的日誌。為了採取行動，智能體檢索根據新近度、重要性和與當前情況的相似度評分的相關記憶，然後將它們輸入到語言模型提示中。定期的反思步驟將原始記憶總結為更高層次的見解（例如，推斷某人對研究充滿熱情），這些見解被儲存起來並指導未來的計劃和對話。
戰略影響
成本與預算
多年來，架構決策決定著效能和營運成本。
更明確的決策
技術教育幫助團隊選擇正確的堆疊，而不僅僅是最新的堆疊。
品質管控
更好的工程選擇可以減少生產中的可靠性事故。
生成代理和模擬社會的未來
期望生成代理能夠為遊戲中更富有的非玩家角色提供支持，訓練模擬以進行談判或危機應對，並進行綜合測試群體以研究謠言、價格或政策在現實世界推出之前如何傳播。隨著模型變得越來越便宜和上下文視窗擴大，模擬將從數十個代理擴展到數千個代理。研究人員也將它們作為社會科學實驗室進行探索，同時提出了有關偏見、操縱以及這些玩具社會如何忠實地反映人類的開放性問題。
現實世界的實施
在史丹佛大學的《超人前傳》模擬中，25 名特工自主組織並參加了情人節派對
電玩遊戲中可信的、由記憶驅動的 NPC 會記住過去玩家的互動，並懷有怨恨或友誼
綜合焦點小組對不同的客戶角色進行角色扮演，以預先測試行銷訊息或產品功能
訓練模擬器，人工智慧城鎮居民在災難應變或外交演習中對受訓者的決定做出反應
風險與防護欄
優化一項基準測試可以隱藏更廣泛的系統弱點。
基礎設施和維護成本常常被低估。
隨著系統變得更加複雜，安全性和可觀察性差距可能會擴大。
實施路線圖
在實施之前定義延遲、品質和成本目標。
在實際負載和資料條件下進行基準測試。
儀器監控錯誤、漂移和使用者影響。
在擴展之前準備回滾和事件回應路徑。
不斷探索
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Generative Agents and Simulated Societies quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
常見問題
What is Generative Agents and Simulated Societies?
生成代理是由語言模型驅動的人工智慧角色，可以像可信的人一樣進行記憶、計劃和反應。它們被放置在一個模擬世界中，形成了微型社會，社會行為在其中自行出現。
史丹佛大學的《超人前傳》模擬中出現了哪些著名的行為？
一位特工決定舉辦情人節派對，邀請函在社群媒體上傳播，直到幾位特工協調並出現，但這些活動都沒有劇本。
生成代理中的「記憶流」是什麼？
記憶體流是代理觀察的長的、帶有時間戳記的記錄，系統利用它來通知操作和對話。
當智能體決定如何行動時，相關記憶是如何選擇的？
檢索根據新近度、重要性和與當前情況的相似性對記憶進行排序，然後將最重要的記憶輸入提示中。
「反射」步驟在代理架構中扮演什麼角色？
反思定期將許多低程度的觀察結果綜合成指導以後行為的抽象結論（如人格特質或目標）。
為什麼規劃對於可信賴的代理商很重要？
計劃與記憶和反思相結合，可以使代理在整個模擬的一天中的行為保持一致，而不是時刻自相矛盾。