ДаліНаступний посібник
Рефлексія та самокоригуюча агенти
Додатки
Технічний КЕРІВНИЦТВО
Саморефлексія в петлях агента
Саморефлексія дозволяє агенту штучного інтелекту критикувати власні результати та дії під час виконання завдання, а потім переглядати на основі цієї критики.
Послухайте цей посібникШІ-розказаний · ~2 min
На цій сторінці2 хвилини читання
Огляд
It turns a one-shot guesser into a system that catches and fixes its own mistakes.
Глибоке занурення
У агентському циклі мовна модель виконує дії (виклик інструментів, написання коду, відповідь), спостерігає за результатами та вирішує, що робити далі. Саморефлексія додає навмисний крок, коли модель оцінює свою нещодавню роботу, перш ніж продовжити. Такі фреймворки, як Reflexion (2023), роблять це конкретним: після невдалої спроби агент пише коротку словесну критику («Я забув обробити порожній список регістрів») і зберігає її в пам’яті, тому наступна спроба залежить від цього уроку. Self-Refine використовує ту саму модель для створення відгуків, а потім повторює свою відповідь. Відображення може відбуватися в результаті порівняння виходу з ціллю, перевірки повідомлень про помилки або виконання тестів. Виграш полягає в вищій надійності багатоетапних завдань, таких як кодування, веб-навігація та математика, де один прохід часто не вдається, але цикл критики та повторення вдається.
Реалізація в реальному світі
Агент кодування запускає невдалий модульний тест, читає зворотне трасування, записує відображення, зазначаючи помилку off-by-one, і переписує функцію на наступній ітерації циклу.
Агент перегляду веб-сторінок, який натиснув неправильне посилання, розглядає сторінку, на яку він потрапив, розпізнає невідповідність його меті та повертається назад, щоб спробувати інше посилання.
Науковий співробітник складає чернетку відповіді, критикує її за непідтверджені твердження та переглядає, щоб додати цитати або захистити непевні твердження, перш ніж повернути її.
Агент, який розв’язує математику, перевіряє остаточну відповідь на обмеження задачі, помічає невідповідність одиниць і переробляє обчислення, а не подає помилковий результат.
Майбутнє саморефлексії в циклах агентів
Очікуйте, що відображення стане вбудованим примітивом агента, а не підказкою, з моделями, навченими знати, коли відображення варте додаткових жетонів, а коли воно просто спалює обчислення. Моделі верифікаторів і відгуки про виконання дедалі більше обґрунтовують самокритику, щоб агенти припинили галюцинації, що неправильні відповіді правильні. Дослідження також націлені на режим невдачі, коли моделі впевнено підтверджують погану роботу, штовхаючи до відкаліброваного, заснованого на доказах відображення та вивчених критеріїв зупинки для циклу.
Застосування на практиці
Чому це важливо
- Вартість і бюджет. Архітектурні рішення збільшують продуктивність і експлуатаційні витрати протягом багатьох років.
- Чіткіші рішення. Технічна освіта допомагає командам вибрати правильний стек, а не лише найновіший.
- Контроль якості. Кращий інженерний вибір зменшує проблеми з надійністю у виробництві.
Зверніть увагу на
- Оптимізація одного тесту може приховати ширші слабкі сторони системи.
- Витрати на інфраструктуру та обслуговування часто недооцінюються.
- Прогалини в безпеці та спостережуваності можуть зростати в міру ускладнення систем.
Наступні кроки
- Визначте цільові показники затримки, якості та вартості перед впровадженням.
- Тест за реалістичних умов навантаження та даних.
- Моніторинг інструментів на наявність помилок, дрейфу та впливу користувача.
- Перед масштабуванням підготуйте шляхи відкату та реагування на інциденти.
Продовжуйте досліджувати
Безплатний розсилок
Отримуйте щоденне зведення новин про ШІ
Три перевірені історії про ШІ щоробочого ранку, написані простою мовою. Безплатно назавжди, без реклами.
Один лист щотижня з понеділка по п'ятницю. Відписатися в один клік. Ми ніколи не продаємо та не передаємо вашу адресу.
Перевір себе
Take the Self-Reflection in Agent Loops quiz
Миттєва зворотна связь на кожну відповідь та сертифікат із перевіреним ідентифікатором, яким можна поділитися, після проходження курсу.
Підтримайте безплатну освіту у сфері ШІ. AI Understanding — це некомерційна організація 501(c)(3) — без реклами, без платних стін, назавжди. Зробіть пожертву
Часті запитання
What is Self-Reflection in Agent Loops?
Саморефлексія дозволяє агенту штучного інтелекту критикувати власні результати та дії під час виконання завдання, а потім переглядати на основі цієї критики. Він перетворює одноразового вгадувача на систему, яка ловить і виправляє власні помилки.
Що додає саморефлексія до стандартного агентського циклу?
Саморефлексія вставляє крок оцінки, під час якого агент критикує свої нещодавні дії чи результат і використовує цю критику, щоб керувати своїм наступним кроком.
Де в системі Reflexion зберігається самокритика моделі?
Рефлексія зберігає словесну самокритику в епізодичному буфері пам’яті та подає її в контекст під час наступних випробувань, тому навчання відбувається в контексті, а не через оновлення ваги.
Який сигнал зворотного зв'язку для відбиття є найбільш надійним?
Обґрунтовані зовнішні сигнали, такі як невдалі тести або помилки під час виконання, дають конкретний, надійний зворотний зв’язок, тоді як чисто власноруч створена критика може бути помилковою.
Що таке відомий невдалий спосіб саморефлексії?
Без обґрунтованого зворотного зв’язку моделі іноді перевіряють роботу з недоліками та роблять неправильний висновок, що вона хороша, тому зовнішня перевірка важлива.
Як підхід Self-Refine зазвичай створює відгуки?
Self-Refine має єдину модель, яка створює зворотний зв’язок щодо своєї чернетки, а потім ітеративно переглядає результат, використовуючи цей відгук.
Продовжуйте вчитися
Пов'язані посібники
Інші посібники, вибрані для цієї теми