ДалееСледующее руководство
Саморефлексия в циклах агентов
Технический
Техническое РУКОВОДСТВО
Генеративные агенты и моделируемые общества
Генеративные агенты — это персонажи искусственного интеллекта, основанные на языковых моделях, которые запоминают, планируют и реагируют, как правдоподобные люди.
Прослушайте это руководствоОзвучено ИИ · ~2 min
На этой странице2 минуты чтения
Обзор
Помещенные вместе в моделируемый мир, они образуют крошечные общества, в которых социальное поведение возникает само по себе.
Глубокое погружение
В рамках проекта Стэнфорда и Google 2023 года под названием «Смоллвиль» исследователи поместили 25 агентов, управляемых GPT-3.5, в город-песочницу и наблюдали, как они ведут себя как сообщество. Каждый агент имел краткую биографию и просыпался, готовил завтрак, шел на работу и болтал с соседями. Важно отметить, что поведение не было запланировано. Один агент решил устроить вечеринку в честь Дня святого Валентина, и в течение двух смоделированных дней приглашение распространилось из уст в уста, агенты согласовали время, и несколько человек пришли вместе. Архитектура сочетает в себе поток памяти, извлечение, отражение и планирование, поэтому агенты действуют последовательно на длительных отрезках времени, а не забывают, что произошло несколько минут назад.
Реальная реализация
Стэнфордский симулятор Смолвиля, в котором 25 агентов самостоятельно организовали и посетили вечеринку в честь Дня святого Валентина.
Правдоподобные, управляемые памятью NPC в видеоиграх, которые помнят прошлые взаимодействия с игроками и хранят обиду или дружбу.
Синтетические фокус-группы, которые разыгрывают различные типы клиентов для предварительного тестирования маркетинговых сообщений или характеристик продукта.
Учебные симуляторы, в которых горожане с искусственным интеллектом реагируют на решения стажера во время учений по реагированию на стихийные бедствия или дипломатии.
Будущее генеративных агентов и симулированных обществ
Ожидайте, что генеративные агенты будут усиливать более богатых неигровых персонажей в играх, обучать симуляции для переговоров или реагирования на кризисы, а также синтетические тестовые группы для изучения того, как распространяются слухи, цены или политика, прежде чем их внедрение в реальный мир. По мере удешевления моделей и расширения контекстных окон моделирование будет масштабироваться от десятков до тысяч агентов. Исследователи также рассматривают их как лаборатории социальных наук, одновременно поднимая открытые вопросы о предвзятости, манипуляциях и о том, насколько точно эти игрушечные общества отражают людей.
Применение на практике
Почему это важно
- Стоимость и бюджет. Архитектурные решения влияют на производительность и эксплуатационные расходы на протяжении многих лет.
- Более четкие решения. Техническое образование помогает командам выбрать правильный стек, а не только самый новый.
- Контроль качества. Лучший инженерный выбор снижает вероятность возникновения проблем с надежностью на производстве.
Следите за
- Оптимизация одного теста может скрыть более широкие недостатки системы.
- Затраты на инфраструктуру и техническое обслуживание часто недооцениваются.
- Пробелы в безопасности и наблюдаемости могут увеличиваться по мере усложнения систем.
Следующие шаги
- Определите целевые показатели задержки, качества и стоимости перед внедрением.
- Тестирование при реалистичной нагрузке и условиях данных.
- Мониторинг прибора на наличие ошибок, дрейфа и влияния пользователя.
- Перед масштабированием подготовьте пути отката и реагирования на инциденты.
Продолжайте исследовать
Бесплатная рассылка
Получайте ежедневный AI-обзор
Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.
Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.
Проверьте себя
Take the Generative Agents and Simulated Societies quiz
Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.
Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование
Часто задаваемые вопросы
Что такое генеративные агенты и моделируемые общества?
Генеративные агенты — это персонажи искусственного интеллекта, основанные на языковых моделях, которые запоминают, планируют и реагируют, как правдоподобные люди. Помещенные вместе в моделируемый мир, они образуют крошечные общества, в которых социальное поведение возникает само по себе.
Какое знаменитое поведение само по себе возникло в Стэнфордской симуляции Смолвиля?
Один агент решил устроить вечеринку в честь Дня святого Валентина, и приглашение распространилось в обществе, пока несколько агентов не скоординировались и не появились, ни один из которых не был запланирован.
Что такое «поток памяти» в генеративном агенте?
Поток памяти представляет собой длинную запись наблюдений агента с отметкой времени, которую система использует для информирования о действиях и разговорах.
Когда агент решает, как действовать, как выбираются соответствующие воспоминания?
При извлечении воспоминания ранжируются по давности, важности и сходству с текущей ситуацией, а затем вводятся в подсказку самые популярные из них.
Что делает этап «отражения» в архитектуре агента?
Рефлексия периодически синтезирует множество наблюдений низкого уровня в абстрактные выводы (например, личностные качества или цели), которые определяют дальнейшее поведение.
Почему планирование важно для правдоподобных агентов?
Планирование в сочетании с памятью и размышлением обеспечивает согласованность действий агента на протяжении всего моделируемого дня, а не противоречие самим себе от момента к моменту.
Продолжайте учиться
Связанные руководства
Другие руководства, выбранные по этой теме