Генеративни агенти и симулирани общества
Генеративните агенти са AI герои, задвижвани от езикови модели, които помнят, планират и реагират като надеждни хора.
Преглед
Placed together in a simulated world, they form tiny societies where social behavior emerges on its own.
Дълбоко гмуркане
В проект на Станфорд и Google от 2023 г., наречен Smallville, изследователите поставиха 25 агенти, управлявани от GPT-3.5, в град пясък и ги наблюдаваха как се държат като общност. Всеки агент имаше кратка биография и се събуждаше, приготвяше закуска, отиваше на работа и разговаряше със съседите. Най-важното е, че поведението не е било сценарийно. Един агент реши да организира парти за Свети Валентин и в продължение на два симулирани дни поканата се разпространи от уста на уста, агентите координираха времето и няколко се появиха заедно. Архитектурата съчетава поток от памет, извличане, размисъл и планиране, така че агентите действат последователно през дълги периоди от време, вместо да забравят какво се е случило преди минути.
Техническа информация
Основният трик е поток от памет: дълъг дневник с времеви щампи на всичко, което агентът наблюдава. За да действа, агентът извлича подходящи спомени, оценени по актуалност, важност и сходство с текущата ситуация, след което ги подава в подканата на езиковия модел. Периодичните стъпки за размисъл обобщават необработените спомени в прозрения на по-високо ниво (например извод, че някой е запален по изследванията), които се съхраняват обратно и насочват бъдещото планиране и диалог.
Стратегическо въздействие
Cost and budget
Архитектурните решения стимулират производителността и оперативните разходи в продължение на години.
Clearer decisions
Техническото образование помага на екипите да изберат правилния стек, а не само най-новия.
Quality control
По-добрият инженерен избор намалява инцидентите, свързани с надеждността в производството.
Бъдещето на генеративните агенти и симулираните общества
Очаквайте генеративните агенти да захранват по-богати герои, които не са играчи, в игрите, тренировъчни симулации за преговори или реакция при кризи и синтетични тестови популации за изучаване на това как се разпространяват слухове, цени или политики преди пускането в реалния свят. Тъй като моделите стават по-евтини и контекстните прозорци се разширяват, симулациите ще се мащабират от десетки до хиляди агенти. Изследователите също ги изследват като лаборатории за социални науки, като същевременно повдигат отворени въпроси за пристрастията, манипулацията и колко вярно тези общества на играчки отразяват хората.
Внедряване в реалния свят
Симулация на Смолвил в Станфорд, където 25 агенти самостоятелно организираха и присъстваха на парти за Свети Валентин
Правдоподобни, управлявани от паметта NPC във видеоигрите, които помнят минали взаимодействия с играчи и държат обида или приятелства
Синтетични фокус групи, които играят ролеви образи на различни клиенти, за да тестват предварително маркетингови съобщения или характеристики на продукта
Тренировъчни симулатори, при които хората с изкуствен интелект реагират на решенията на обучаващия се по време на учения за реагиране при бедствия или дипломация
Рискове и предпазни огради
Оптимизирането на един бенчмарк може да скрие по-широки системни слабости.
Разходите за инфраструктура и поддръжка често се подценяват.
Пропуските в сигурността и видимостта могат да нарастват, когато системите стават по-сложни.
Пътна карта за изпълнение
Определете целите за латентност, качество и разходи преди внедряването.
Бенчмарк при реалистични условия на натоварване и данни.
Мониторинг на инструмента за грешки, отклонение и въздействие върху потребителя.
Подгответе пътеките за връщане назад и реакция на инцидент преди мащабиране.
Продължете да изследвате
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Generative Agents and Simulated Societies quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Next guide
Саморефлексия в Agent Loops
Frequently asked questions
What is Generative Agents and Simulated Societies?
Генеративните агенти са AI герои, задвижвани от езикови модели, които помнят, планират и реагират като надеждни хора. Поставени заедно в симулиран свят, те образуват малки общества, където социалното поведение възниква само по себе си.
Какво известно поведение се появи само по себе си в симулацията на Смолвил на Станфорд?
Един агент реши да бъде домакин на парти за Свети Валентин и поканата се разпространяваше социално, докато няколко агенти не се координираха и не се появиха, нито един от които не беше по сценарий.
Какво представлява „потокът от памет“ в генеративен агент?
Потокът от памет е дълъг запис с времеви щампи на наблюденията на агента, който системата използва, за да информира за действията и разговорите.
Когато един агент решава как да действа, как се избират подходящи спомени?
Извличането класира спомените, като използва актуалност, важност и сходство с текущата ситуация, след което подава най-добрите в подканата.
Какво прави стъпката „отражение“ в архитектурата на агента?
Рефлексията периодично синтезира много наблюдения на ниско ниво в абстрактни заключения (като личностни черти или цели), които насочват по-късно поведение.
Защо планирането е важно за надеждните агенти?
Планирането, съчетано с памет и размисъл, поддържа действията на агента съгласувани през целия симулиран ден, вместо да си противоречи всеки момент.