Generativní agenti a simulované společnosti
Generativní agenti jsou postavy umělé inteligence poháněné jazykovými modely, které si pamatují, plánují a reagují jako uvěřitelní lidé.
Přehled
Placed together in a simulated world, they form tiny societies where social behavior emerges on its own.
Hluboký ponor
V projektu Stanford a Google z roku 2023 nazvaném Smallville vědci umístili 25 agentů poháněných GPT-3.5 do pískoviště a sledovali, jak se chovají jako komunita. Každý agent měl krátký životopis a probudil se, uvařil snídani, šel do práce a povídal si se sousedy. Podstatné je, že chování nebylo naskriptováno. Jeden agent se rozhodl uspořádat valentýnskou párty a během dvou simulovaných dnů se pozvání šířilo ústně, agenti koordinovali časy a několik se jich objevilo společně. Architektura kombinuje paměťový tok, vyhledávání, reflexi a plánování, takže agenti jednají konzistentně po dlouhé časové úseky, než aby zapomínali, co se stalo před minutami.
Technický přehled
Základním trikem je paměťový proud: dlouhý, časově označený protokol všeho, co agent pozoruje. Aby agent mohl jednat, získá relevantní vzpomínky hodnocené aktuálností, důležitostí a podobností se současnou situací a poté je vloží do výzvy jazykového modelu. Kroky periodické reflexe shrnují surové vzpomínky do vhledů na vyšší úrovni (například z toho, že někdo je zapálený pro výzkum), které se ukládají zpět a vedou budoucí plánování a dialog.
Strategický dopad
Cena a rozpočet
Rozhodnutí o architektuře zvyšují výkon a provozní náklady po mnoho let.
Jasnější rozhodnutí
Technické vzdělání pomáhá týmům vybrat ten správný stack, nejen ten nejnovější.
Kontrola kvality
Lepší konstrukční volby snižují výskyt problémů se spolehlivostí ve výrobě.
Budoucnost generativních agentů a simulovaných společností
Očekávejte, že generativní agenti budou pohánět bohatší nehráčské postavy ve hrách, cvičné simulace pro vyjednávání nebo reakci na krize a syntetické testovací populace pro studium toho, jak se šíří fámy, ceny nebo zásady, než budou zavedeny v reálném světě. Jak modely zlevňují a kontextová okna se rozšiřují, simulace se budou škálovat od desítek až po tisíce agentů. Výzkumníci je také zkoumají jako společenskovědní laboratoře, přičemž kladou otevřené otázky o zaujatosti, manipulaci a o tom, jak věrně tyto hračkářské společnosti odrážejí lidi.
Real-World Implementace
Stanfordská simulace Smallville, kde 25 agentů autonomně organizovalo a účastnilo se valentýnské párty
Uvěřitelné, pamětí založené NPC ve videohrách, které si pamatují minulé interakce hráčů a uchovávají zášť nebo přátelství
Syntetické fokusní skupiny, které hrají různé role zákazníků, aby předem otestovaly marketingové zprávy nebo funkce produktu
Tréninkové simulátory, kde AI obyvatelé města reagují na rozhodnutí účastníka během cvičení reakce na katastrofu nebo diplomacie
Rizika a zábradlí
Optimalizace jednoho benchmarku může skrýt širší systémové slabiny.
Náklady na infrastrukturu a údržbu jsou často podceňovány.
Mezery v zabezpečení a pozorovatelnosti se mohou zvětšovat, jak se systémy stávají složitějšími.
Plán implementace
Před implementací definujte cíle latence, kvality a nákladů.
Benchmark za realistických podmínek zatížení a dat.
Monitorování chyb, posunu a dopadu na uživatele.
Před škálováním připravte cesty vrácení zpět a reakce na incidenty.
Pokračujte v objevování
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Generative Agents and Simulated Societies quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Další průvodce
Sebereflexe v Agent Loops
Často kladené otázky
What is Generative Agents and Simulated Societies?
Generativní agenti jsou postavy umělé inteligence poháněné jazykovými modely, které si pamatují, plánují a reagují jako uvěřitelní lidé. Umístění společně v simulovaném světě tvoří malé společnosti, kde se sociální chování objevuje samo od sebe.
Jaké slavné chování se samo o sobě objevilo ve Stanfordově simulaci Smallville?
Jeden agent se rozhodl uspořádat valentýnskou párty a pozvání se společensky šířilo, dokud se několik agentů nezkoordinovalo a neobjevilo, žádný z nich nebyl napsán.
Co je to „proud paměti“ v generativním agentu?
Paměťový proud je dlouhý záznam s časovým razítkem o pozorováních agenta, ze kterého systém čerpá informace o akcích a konverzacích.
Když se agent rozhoduje, jak jednat, jak se vybírají relevantní vzpomínky?
Vyhledání seřadí vzpomínky pomocí aktuálnosti, důležitosti a podobnosti se současnou situací a poté vloží ty nejlepší do výzvy.
Co dělá krok „reflexe“ v architektuře agenta?
Reflexe pravidelně syntetizuje mnoho nízkoúrovňových pozorování do abstraktních závěrů (jako jsou osobnostní rysy nebo cíle), které řídí pozdější chování.
Proč je plánování důležité pro důvěryhodné agenty?
Plánování v kombinaci s pamětí a reflexí udržuje jednání agenta koherentní po celý simulovaný den, spíše než aby si odporovalo okamžik za okamžikem.