Генеративні агенти та імітовані суспільства
Генеративні агенти — це персонажі штучного інтелекту, створені за допомогою мовних моделей, які запам’ятовують, планують і реагують як люди, яким можна довіряти.
Огляд
Placed together in a simulated world, they form tiny societies where social behavior emerges on its own.
Глибоке занурення
У 2023 році в проекті Стенфорда та Google під назвою Smallville дослідники помістили 25 агентів, керованих GPT-3.5, у місто-пісочницю та спостерігали, як вони поводяться як спільнота. Кожен агент мав коротку біографію, прокидався, готував сніданок, йшов на роботу та балакав із сусідами. Що важливо, поведінка не була запланована. Один агент вирішив влаштувати вечірку до Дня святого Валентина, і протягом двох імітованих днів запрошення поширювалося з вуст в уста, агенти узгоджували час, і кілька з’являлися разом. Архітектура поєднує в собі потік пам’яті, пошук, рефлексію та планування, тому агенти діють узгоджено протягом тривалого періоду часу, а не забуватимуть, що сталося кілька хвилин тому.
Технічне розуміння
Основним трюком є потік пам’яті: довгий журнал із мітками часу всього, що спостерігає агент. Щоб діяти, агент отримує відповідні спогади, оцінені за нещодавністю, важливістю та схожістю з поточною ситуацією, а потім передає їх у підказку мовної моделі. Періодичні кроки рефлексії підсумовують необроблені спогади в ідеї вищого рівня (наприклад, висновок про те, що хтось захоплений дослідженнями), які зберігаються назад і спрямовують майбутнє планування та діалог.
Стратегічний вплив
Вартість і бюджет
Архітектурні рішення збільшують продуктивність і експлуатаційні витрати протягом багатьох років.
Чіткіші рішення
Технічна освіта допомагає командам вибрати правильний стек, а не лише найновіший.
Контроль якості
Кращий інженерний вибір зменшує проблеми з надійністю у виробництві.
Майбутнє генеративних агентів і імітованих суспільств
Очікуйте, що генеративні агенти стануть потужнішими неігровими персонажами в іграх, тренувальних симуляцій для переговорів або реагування на кризу, а також синтетичних тестових популяцій для вивчення того, як поширюються чутки, ціни чи політика перед розгортанням у реальному світі. Оскільки моделі стають дешевшими, а контекстні вікна розширюються, моделювання масштабуватиметься від десятків до тисяч агентів. Дослідники також досліджують їх як лабораторії соціальних наук, водночас піднімаючи відкриті питання про упередженість, маніпуляції та те, наскільки вірно ці іграшкові суспільства відображають людей.
Реалізація в реальному світі
Симуляція Смолвіля в Стенфорді, де 25 агентів автономно організували та відвідали вечірку до Дня святого Валентина
Правдоподібні, керовані пам’яттю NPC у відеоіграх, які пам’ятають минулі взаємодії гравців і тримають образу чи дружбу
Синтетичні фокус-групи, які розігрують різноманітних клієнтів, щоб попередньо протестувати маркетингові повідомлення або характеристики продукту
Навчальні симулятори, де місцеві жителі ШІ реагують на рішення стажера під час реагування на стихійні лиха або дипломатичних навчань
Ризики та огорожі
Оптимізація одного тесту може приховати ширші слабкі сторони системи.
Витрати на інфраструктуру та обслуговування часто недооцінюються.
Прогалини в безпеці та спостережуваності можуть зростати в міру ускладнення систем.
Дорожня карта впровадження
Визначте цільові показники затримки, якості та вартості перед впровадженням.
Тест за реалістичних умов навантаження та даних.
Моніторинг інструментів на наявність помилок, дрейфу та впливу користувача.
Перед масштабуванням підготуйте шляхи відкату та реагування на інциденти.
Продовжуйте досліджувати
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Generative Agents and Simulated Societies quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Наступний посібник
Саморефлексія в петлях агента
Часті запитання
What is Generative Agents and Simulated Societies?
Генеративні агенти — це персонажі штучного інтелекту, створені за допомогою мовних моделей, які запам’ятовують, планують і реагують як люди, яким можна довіряти. Поміщені разом у змодельований світ, вони утворюють крихітні суспільства, де соціальна поведінка виникає сама по собі.
Яка відома поведінка виникла сама по собі в симуляції Смолвіля Стенфорда?
Один агент вирішив влаштувати вечірку до Дня святого Валентина, і запрошення поширювалося в суспільстві, доки кілька агентів не погодилися і не з’явилися, жоден з яких не був за сценарієм.
Що таке «потік пам’яті» у генеративному агенті?
Потік пам’яті — це довгий запис спостережень агента з часовими мітками, який система використовує для інформування про дії та розмови.
Коли агент вирішує, як діяти, як вибираються відповідні спогади?
Пошук ранжує спогади за останнім часом, важливістю та схожістю з поточною ситуацією, а потім додає найкращі спогади до підказки.
Що робить крок «відображення» в архітектурі агента?
Рефлексія періодично синтезує багато спостережень низького рівня в абстрактні висновки (наприклад, риси особистості чи цілі), які керують подальшою поведінкою.
Чому планування важливо для надійних агентів?
Планування в поєднанні з пам’яттю та рефлексією забезпечує узгодженість дій агента протягом повного змодельованого дня, а не суперечить собі щомиті.