Agenci generatywni i symulowane społeczeństwa
Agenci generatywni to postacie AI zasilane modelami językowymi, które pamiętają, planują i reagują jak wiarygodni ludzie.
Przegląd
Placed together in a simulated world, they form tiny societies where social behavior emerges on its own.
Głębokie nurkowanie
W ramach projektu Smallville realizowanego przez Stanford i Google w 2023 r. badacze umieścili 25 agentów napędzanych przez GPT-3.5 w miasteczku typu sandbox i obserwowali, jak zachowują się jak społeczność. Każdy agent miał krótką biografię i budził się, gotował śniadanie, szedł do pracy i rozmawiał z sąsiadami. Co najważniejsze, zachowanie nie było zaplanowane. Jeden z agentów zdecydował się urządzić przyjęcie walentynkowe i w ciągu dwóch symulowanych dni zaproszenie rozeszło się pocztą pantoflową, agenci ustalili terminy i kilku z nich pojawiło się razem. Architektura łączy strumień pamięci, odzyskiwanie, refleksję i planowanie, dzięki czemu agenci działają spójnie przez długie okresy czasu, zamiast zapominać o tym, co wydarzyło się kilka minut temu.
Wgląd techniczny
Podstawową sztuczką jest strumień pamięci: długi, oznaczony znacznikiem czasu dziennik wszystkiego, co zaobserwuje agent. Aby działać, agent odzyskuje odpowiednie wspomnienia oceniane według aktualności, ważności i podobieństwa do bieżącej sytuacji, a następnie wprowadza je do podpowiedzi modelu językowego. Okresowe etapy refleksji podsumowują surowe wspomnienia w spostrzeżenia wyższego poziomu (na przykład wywnioskowanie, że ktoś pasjonuje się badaniami), które są gromadzone i stanowią wskazówkę dla przyszłego planowania i dialogu.
Wpływ strategiczny
Koszt i budżet
Decyzje dotyczące architektury wpływają na wydajność i koszty operacyjne przez lata.
Jaśniejsze decyzje
Edukacja techniczna pomaga zespołom wybrać odpowiedni stos, a nie tylko najnowszy.
Kontrola jakości
Lepsze wybory inżynieryjne zmniejszają liczbę incydentów związanych z niezawodnością w produkcji.
Przyszłość agentów generatywnych i symulowanych społeczeństw
Oczekuj, że agenci generatywni będą zasilać bogatsze postacie niezależne w grach, symulacje szkoleniowe w zakresie negocjacji lub reagowania na kryzysy oraz syntetyczne populacje testowe do badania, w jaki sposób rozprzestrzeniają się plotki, ceny lub zasady przed wdrożeniem w świecie rzeczywistym. W miarę jak modele stają się tańsze i rozszerzają się okna kontekstowe, symulacje będą skalowane od kilkudziesięciu do tysięcy agentów. Naukowcy badają je również jako laboratoria nauk społecznych, stawiając jednocześnie otwarte pytania dotyczące uprzedzeń, manipulacji i tego, jak wiernie te zabawkowe społeczeństwa odzwierciedlają ludzi.
Implementacja w świecie rzeczywistym
Symulacja Smallville w Stanford, w której 25 agentów samodzielnie zorganizowało przyjęcie walentynkowe i wzięło w nim udział
Wiarygodni, kierujący się pamięcią NPC w grach wideo, którzy pamiętają przeszłe interakcje z graczami i chowają urazy lub przyjaźnie
Syntetyczne grupy fokusowe, które odgrywają role różnych klientów w celu wstępnego przetestowania przekazów marketingowych lub cech produktu
Symulatory szkoleniowe, w których mieszkańcy AI reagują na decyzje uczestnika podczas ćwiczeń w zakresie reagowania na katastrofy lub ćwiczeń dyplomatycznych
Zagrożenia i poręcze
Optymalizacja jednego testu porównawczego może ukryć szersze słabości systemu.
Koszty infrastruktury i utrzymania są często niedoszacowane.
W miarę jak systemy stają się coraz bardziej złożone, luki w bezpieczeństwie i obserwowalności mogą się zwiększać.
Plan wdrożenia
Przed wdrożeniem zdefiniuj docelowe opóźnienia, jakość i koszty.
Test porównawczy w realistycznych warunkach obciążenia i danych.
Monitorowanie przyrządu pod kątem błędów, dryftu i wpływu użytkownika.
Przed skalowaniem przygotuj ścieżki wycofywania zmian i reakcji na incydenty.
Odkrywaj dalej
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Generative Agents and Simulated Societies quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Następny poradnik
Autorefleksja w pętlach agentów
Często zadawane pytania
What is Generative Agents and Simulated Societies?
Agenci generatywni to postacie AI zasilane modelami językowymi, które pamiętają, planują i reagują jak wiarygodni ludzie. Umieszczone razem w symulowanym świecie tworzą maleńkie społeczności, w których zachowania społeczne pojawiają się same.
Jakie słynne zachowanie pojawiło się samoistnie w symulacji Smallville przeprowadzonej przez Stanforda?
Jeden z agentów zdecydował się zorganizować przyjęcie walentynkowe, a zaproszenie rozprzestrzeniło się w społeczeństwie, aż do momentu, gdy kilku agentów skoordynowało działania i pojawiło się, przy czym żaden z nich nie był wyreżyserowany.
Co to jest „strumień pamięci” w agencie generatywnym?
Strumień pamięci to długi, oznaczony znacznikiem czasu zapis obserwacji agenta, z którego system korzysta w celu informowania o działaniach i rozmowach.
Kiedy agent decyduje, jak działać, w jaki sposób wybierane są odpowiednie wspomnienia?
Funkcja wyszukiwania klasyfikuje wspomnienia według aktualności, ważności i podobieństwa do bieżącej sytuacji, a następnie umieszcza te najważniejsze w podpowiedzi.
Do czego służy etap „refleksji” w architekturze agenta?
Refleksja okresowo syntetyzuje wiele obserwacji niskiego poziomu w abstrakcyjne wnioski (takie jak cechy osobowości lub cele), które kierują późniejszym zachowaniem.
Dlaczego planowanie jest ważne dla wiarygodnych agentów?
Planowanie w połączeniu z pamięcią i refleksją zapewnia spójność działań agenta przez cały symulowany dzień, zamiast zaprzeczać sobie z chwili na chwilę.