Генеративные агенты и моделируемые общества
Генеративные агенты — это персонажи искусственного интеллекта, основанные на языковых моделях, которые запоминают, планируют и реагируют, как правдоподобные люди.
Обзор
Placed together in a simulated world, they form tiny societies where social behavior emerges on its own.
Глубокое погружение
В рамках проекта Стэнфорда и Google 2023 года под названием «Смоллвиль» исследователи поместили 25 агентов, управляемых GPT-3.5, в город-песочницу и наблюдали, как они ведут себя как сообщество. Каждый агент имел краткую биографию и просыпался, готовил завтрак, шел на работу и болтал с соседями. Важно отметить, что поведение не было запланировано. Один агент решил устроить вечеринку в честь Дня святого Валентина, и в течение двух смоделированных дней приглашение распространилось из уст в уста, агенты согласовали время, и несколько человек пришли вместе. Архитектура сочетает в себе поток памяти, извлечение, отражение и планирование, поэтому агенты действуют последовательно на длительных отрезках времени, а не забывают, что произошло несколько минут назад.
Техническая информация
Основной трюк — это поток памяти: длинный журнал с отметками времени всего, что наблюдает агент. Чтобы действовать, агент извлекает соответствующие воспоминания, оцененные по новизне, важности и сходству с текущей ситуацией, а затем вводит их в подсказку языковой модели. Периодические этапы размышления суммируют необработанные воспоминания в идеи более высокого уровня (например, вывод о том, что кто-то увлечен исследованиями), которые сохраняются и служат руководством для будущего планирования и диалога.
Стратегическое воздействие
Стоимость и бюджет
Архитектурные решения влияют на производительность и эксплуатационные расходы на протяжении многих лет.
Более четкие решения
Техническое образование помогает командам выбрать правильный стек, а не только самый новый.
Контроль качества
Лучший инженерный выбор снижает вероятность возникновения проблем с надежностью на производстве.
Будущее генеративных агентов и симулированных обществ
Ожидайте, что генеративные агенты будут усиливать более богатых неигровых персонажей в играх, обучать симуляции для переговоров или реагирования на кризисы, а также синтетические тестовые группы для изучения того, как распространяются слухи, цены или политика, прежде чем их внедрение в реальный мир. По мере удешевления моделей и расширения контекстных окон моделирование будет масштабироваться от десятков до тысяч агентов. Исследователи также рассматривают их как лаборатории социальных наук, одновременно поднимая открытые вопросы о предвзятости, манипуляциях и о том, насколько точно эти игрушечные общества отражают людей.
Реальная реализация
Стэнфордский симулятор Смолвиля, в котором 25 агентов самостоятельно организовали и посетили вечеринку в честь Дня святого Валентина.
Правдоподобные, управляемые памятью NPC в видеоиграх, которые помнят прошлые взаимодействия с игроками и хранят обиду или дружбу.
Синтетические фокус-группы, которые разыгрывают различные типы клиентов для предварительного тестирования маркетинговых сообщений или характеристик продукта.
Учебные симуляторы, в которых горожане с искусственным интеллектом реагируют на решения стажера во время учений по реагированию на стихийные бедствия или дипломатии.
Риски и ограничения
Оптимизация одного теста может скрыть более широкие недостатки системы.
Затраты на инфраструктуру и техническое обслуживание часто недооцениваются.
Пробелы в безопасности и наблюдаемости могут увеличиваться по мере усложнения систем.
Дорожная карта реализации
Определите целевые показатели задержки, качества и стоимости перед внедрением.
Тестирование при реалистичной нагрузке и условиях данных.
Мониторинг прибора на наличие ошибок, дрейфа и влияния пользователя.
Перед масштабированием подготовьте пути отката и реагирования на инциденты.
Продолжайте исследовать
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Generative Agents and Simulated Societies quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Следующее руководство
Саморефлексия в циклах агентов
Часто задаваемые вопросы
What is Generative Agents and Simulated Societies?
Генеративные агенты — это персонажи искусственного интеллекта, основанные на языковых моделях, которые запоминают, планируют и реагируют, как правдоподобные люди. Помещенные вместе в моделируемый мир, они образуют крошечные общества, в которых социальное поведение возникает само по себе.
Какое знаменитое поведение само по себе возникло в Стэнфордской симуляции Смолвиля?
Один агент решил устроить вечеринку в честь Дня святого Валентина, и приглашение распространилось в обществе, пока несколько агентов не скоординировались и не появились, ни один из которых не был запланирован.
Что такое «поток памяти» в генеративном агенте?
Поток памяти представляет собой длинную запись наблюдений агента с отметкой времени, которую система использует для информирования о действиях и разговорах.
Когда агент решает, как действовать, как выбираются соответствующие воспоминания?
При извлечении воспоминания ранжируются по давности, важности и сходству с текущей ситуацией, а затем вводятся в подсказку самые популярные из них.
Что делает этап «отражения» в архитектуре агента?
Рефлексия периодически синтезирует множество наблюдений низкого уровня в абстрактные выводы (например, личностные качества или цели), которые определяют дальнейшее поведение.
Почему планирование важно для правдоподобных агентов?
Планирование в сочетании с памятью и размышлением обеспечивает согласованность действий агента на протяжении всего моделируемого дня, а не противоречие самим себе от момента к моменту.