ДаліНаступний посібник
Саморефлексія в петлях агента
технічний
Технічний КЕРІВНИЦТВО
Генеративні агенти та імітовані суспільства
Генеративні агенти — це персонажі штучного інтелекту, створені за допомогою мовних моделей, які запам’ятовують, планують і реагують як люди, яким можна довіряти.
Послухайте цей посібникШІ-розказаний · ~2 min
На цій сторінці2 хвилини читання
Огляд
Placed together in a simulated world, they form tiny societies where social behavior emerges on its own.
Глибоке занурення
У 2023 році в проекті Стенфорда та Google під назвою Smallville дослідники помістили 25 агентів, керованих GPT-3.5, у місто-пісочницю та спостерігали, як вони поводяться як спільнота. Кожен агент мав коротку біографію, прокидався, готував сніданок, йшов на роботу та балакав із сусідами. Що важливо, поведінка не була запланована. Один агент вирішив влаштувати вечірку до Дня святого Валентина, і протягом двох імітованих днів запрошення поширювалося з вуст в уста, агенти узгоджували час, і кілька з’являлися разом. Архітектура поєднує в собі потік пам’яті, пошук, рефлексію та планування, тому агенти діють узгоджено протягом тривалого періоду часу, а не забуватимуть, що сталося кілька хвилин тому.
Реалізація в реальному світі
Симуляція Смолвіля в Стенфорді, де 25 агентів автономно організували та відвідали вечірку до Дня святого Валентина
Правдоподібні, керовані пам’яттю NPC у відеоіграх, які пам’ятають минулі взаємодії гравців і тримають образу чи дружбу
Синтетичні фокус-групи, які розігрують різноманітних клієнтів, щоб попередньо протестувати маркетингові повідомлення або характеристики продукту
Навчальні симулятори, де місцеві жителі ШІ реагують на рішення стажера під час реагування на стихійні лиха або дипломатичних навчань
Майбутнє генеративних агентів і імітованих суспільств
Очікуйте, що генеративні агенти стануть потужнішими неігровими персонажами в іграх, тренувальних симуляцій для переговорів або реагування на кризу, а також синтетичних тестових популяцій для вивчення того, як поширюються чутки, ціни чи політика перед розгортанням у реальному світі. Оскільки моделі стають дешевшими, а контекстні вікна розширюються, моделювання масштабуватиметься від десятків до тисяч агентів. Дослідники також досліджують їх як лабораторії соціальних наук, водночас піднімаючи відкриті питання про упередженість, маніпуляції та те, наскільки вірно ці іграшкові суспільства відображають людей.
Застосування на практиці
Чому це важливо
- Вартість і бюджет. Архітектурні рішення збільшують продуктивність і експлуатаційні витрати протягом багатьох років.
- Чіткіші рішення. Технічна освіта допомагає командам вибрати правильний стек, а не лише найновіший.
- Контроль якості. Кращий інженерний вибір зменшує проблеми з надійністю у виробництві.
Зверніть увагу на
- Оптимізація одного тесту може приховати ширші слабкі сторони системи.
- Витрати на інфраструктуру та обслуговування часто недооцінюються.
- Прогалини в безпеці та спостережуваності можуть зростати в міру ускладнення систем.
Наступні кроки
- Визначте цільові показники затримки, якості та вартості перед впровадженням.
- Тест за реалістичних умов навантаження та даних.
- Моніторинг інструментів на наявність помилок, дрейфу та впливу користувача.
- Перед масштабуванням підготуйте шляхи відкату та реагування на інциденти.
Продовжуйте досліджувати
Безплатний розсилок
Отримуйте щоденне зведення новин про ШІ
Три перевірені історії про ШІ щоробочого ранку, написані простою мовою. Безплатно назавжди, без реклами.
Один лист щотижня з понеділка по п'ятницю. Відписатися в один клік. Ми ніколи не продаємо та не передаємо вашу адресу.
Перевір себе
Take the Generative Agents and Simulated Societies quiz
Миттєва зворотна связь на кожну відповідь та сертифікат із перевіреним ідентифікатором, яким можна поділитися, після проходження курсу.
Підтримайте безплатну освіту у сфері ШІ. AI Understanding — це некомерційна організація 501(c)(3) — без реклами, без платних стін, назавжди. Зробіть пожертву
Часті запитання
What is Generative Agents and Simulated Societies?
Генеративні агенти — це персонажі штучного інтелекту, створені за допомогою мовних моделей, які запам’ятовують, планують і реагують як люди, яким можна довіряти. Поміщені разом у змодельований світ, вони утворюють крихітні суспільства, де соціальна поведінка виникає сама по собі.
Яка відома поведінка виникла сама по собі в симуляції Смолвіля Стенфорда?
Один агент вирішив влаштувати вечірку до Дня святого Валентина, і запрошення поширювалося в суспільстві, доки кілька агентів не погодилися і не з’явилися, жоден з яких не був за сценарієм.
Що таке «потік пам’яті» у генеративному агенті?
Потік пам’яті — це довгий запис спостережень агента з часовими мітками, який система використовує для інформування про дії та розмови.
Коли агент вирішує, як діяти, як вибираються відповідні спогади?
Пошук ранжує спогади за останнім часом, важливістю та схожістю з поточною ситуацією, а потім додає найкращі спогади до підказки.
Що робить крок «відображення» в архітектурі агента?
Рефлексія періодично синтезує багато спостережень низького рівня в абстрактні висновки (наприклад, риси особистості чи цілі), які керують подальшою поведінкою.
Чому планування важливо для надійних агентів?
Планування в поєднанні з пам’яттю та рефлексією забезпечує узгодженість дій агента протягом повного змодельованого дня, а не суперечить собі щомиті.
Продовжуйте вчитися
Пов'язані посібники
Інші посібники, вибрані для цієї теми