NastępnyNastępny poradnik
Autorefleksja w pętlach agentów
Techniczne
PRZEWODNIK techniczny
Agenci generatywni i symulowane społeczeństwa
Agenci generatywni to postacie AI zasilane modelami językowymi, które pamiętają, planują i reagują jak wiarygodni ludzie.
Posłuchaj tego przewodnikaOpowiadane przez sztuczną inteligencję · ~2 min
Na tej stronie2 minuty czytania
Przegląd
Umieszczone razem w symulowanym świecie tworzą maleńkie społeczności, w których zachowania społeczne pojawiają się same.
Głębokie nurkowanie
W ramach projektu Smallville realizowanego przez Stanford i Google w 2023 r. badacze umieścili 25 agentów napędzanych przez GPT-3.5 w miasteczku typu sandbox i obserwowali, jak zachowują się jak społeczność. Każdy agent miał krótką biografię i budził się, gotował śniadanie, szedł do pracy i rozmawiał z sąsiadami. Co najważniejsze, zachowanie nie było zaplanowane. Jeden z agentów zdecydował się urządzić przyjęcie walentynkowe i w ciągu dwóch symulowanych dni zaproszenie rozeszło się pocztą pantoflową, agenci ustalili terminy i kilku z nich pojawiło się razem. Architektura łączy strumień pamięci, odzyskiwanie, refleksję i planowanie, dzięki czemu agenci działają spójnie przez długie okresy czasu, zamiast zapominać o tym, co wydarzyło się kilka minut temu.
Implementacja w świecie rzeczywistym
Symulacja Smallville w Stanford, w której 25 agentów samodzielnie zorganizowało przyjęcie walentynkowe i wzięło w nim udział
Wiarygodni, kierujący się pamięcią NPC w grach wideo, którzy pamiętają przeszłe interakcje z graczami i chowają urazy lub przyjaźnie
Syntetyczne grupy fokusowe, które odgrywają role różnych klientów w celu wstępnego przetestowania przekazów marketingowych lub cech produktu
Symulatory szkoleniowe, w których mieszkańcy AI reagują na decyzje uczestnika podczas ćwiczeń w zakresie reagowania na katastrofy lub ćwiczeń dyplomatycznych
Przyszłość agentów generatywnych i symulowanych społeczeństw
Oczekuj, że agenci generatywni będą zasilać bogatsze postacie niezależne w grach, symulacje szkoleniowe w zakresie negocjacji lub reagowania na kryzysy oraz syntetyczne populacje testowe do badania, w jaki sposób rozprzestrzeniają się plotki, ceny lub zasady przed wdrożeniem w świecie rzeczywistym. W miarę jak modele stają się tańsze i rozszerzają się okna kontekstowe, symulacje będą skalowane od kilkudziesięciu do tysięcy agentów. Naukowcy badają je również jako laboratoria nauk społecznych, stawiając jednocześnie otwarte pytania dotyczące uprzedzeń, manipulacji i tego, jak wiernie te zabawkowe społeczeństwa odzwierciedlają ludzi.
Wdrażanie tego w praktykę
Dlaczego to ma znaczenie
- Koszt i budżet. Decyzje dotyczące architektury wpływają na wydajność i koszty operacyjne przez lata.
- Jaśniejsze decyzje. Edukacja techniczna pomaga zespołom wybrać odpowiedni stos, a nie tylko najnowszy.
- Kontrola jakości. Lepsze wybory inżynieryjne zmniejszają liczbę incydentów związanych z niezawodnością w produkcji.
Uważaj na
- Optymalizacja jednego testu porównawczego może ukryć szersze słabości systemu.
- Koszty infrastruktury i utrzymania są często niedoszacowane.
- W miarę jak systemy stają się coraz bardziej złożone, luki w bezpieczeństwie i obserwowalności mogą się zwiększać.
Kolejne kroki
- Przed wdrożeniem zdefiniuj docelowe opóźnienia, jakość i koszty.
- Test porównawczy w realistycznych warunkach obciążenia i danych.
- Monitorowanie przyrządu pod kątem błędów, dryftu i wpływu użytkownika.
- Przed skalowaniem przygotuj ścieżki wycofywania zmian i reakcji na incydenty.
Odkrywaj dalej
Darmowy newsletter
Otrzymuj codzienne podsumowanie AI
Trzy zweryfikowane historie AI każdego poranka w dni robocze, napisane prostym angielskim. Bezpłatne na zawsze, bez reklam.
Jedno e‑mail każdego dnia roboczego. Wypisz się jednym kliknięciem. Nigdy nie sprzedajemy ani nie udostępniamy Twojego adresu.
Sprawdź się
Take the Generative Agents and Simulated Societies quiz
Natychmiastowa informacja zwrotna na każde pytanie oraz udostępnialny certyfikat z weryfikowalnym ID po zaliczeniu kursu.
Wspieraj darmową edukację AI. AI Understanding jest organizacją non-profit 501(c)(3) — bez reklam, bez płatnej ściany, zawsze. Przekaż darowiznę
Często zadawane pytania
Czym są agenci generatywni i symulowane społeczeństwa?
Agenci generatywni to postacie AI zasilane modelami językowymi, które pamiętają, planują i reagują jak wiarygodni ludzie. Umieszczone razem w symulowanym świecie tworzą maleńkie społeczności, w których zachowania społeczne pojawiają się same.
Jakie słynne zachowanie pojawiło się samoistnie w symulacji Smallville przeprowadzonej przez Stanforda?
Jeden z agentów zdecydował się zorganizować przyjęcie walentynkowe, a zaproszenie rozprzestrzeniło się w społeczeństwie, aż do momentu, gdy kilku agentów skoordynowało działania i pojawiło się, przy czym żaden z nich nie był wyreżyserowany.
Co to jest „strumień pamięci” w agencie generatywnym?
Strumień pamięci to długi, oznaczony znacznikiem czasu zapis obserwacji agenta, z którego system korzysta w celu informowania o działaniach i rozmowach.
Kiedy agent decyduje, jak działać, w jaki sposób wybierane są odpowiednie wspomnienia?
Funkcja wyszukiwania klasyfikuje wspomnienia według aktualności, ważności i podobieństwa do bieżącej sytuacji, a następnie umieszcza te najważniejsze w podpowiedzi.
Do czego służy etap „refleksji” w architekturze agenta?
Refleksja okresowo syntetyzuje wiele obserwacji niskiego poziomu w abstrakcyjne wnioski (takie jak cechy osobowości lub cele), które kierują późniejszym zachowaniem.
Dlaczego planowanie jest ważne dla wiarygodnych agentów?
Planowanie w połączeniu z pamięcią i refleksją zapewnia spójność działań agenta przez cały symulowany dzień, zamiast zaprzeczać sobie z chwili na chwilę.
Ucz się dalej
Powiązane przewodniki
Wybrano więcej przewodników na ten temat