ДаліНаступний посібник
Саморефлексія в петлях агента
технічний
ПОСІБНИК із застосування
Рефлексія та самокоригуюча агенти
Reflexion is a research framework in which language agents use task feedback to write textual reflections for later attempts.
Послухайте цей посібникШІ-розказаний · ~1 min
На цій сторінці1 хв читання
Огляд
It changes context, not model weights.
Глибоке занурення
The Reflexion paper describes an Actor that attempts a task, an Evaluator that scores the result, and a Self-Reflection model that turns feedback into language stored in episodic memory. The next attempt can use that reflection as context; the framework does not update model weights. The paper reports improvements on selected tasks, including a HumanEval result for its particular setup. Benchmark results should not be generalized to every agent or deployment. In the Reflexion paper’s reported coding experiment, the framework achieved 91% pass@1 on HumanEval, compared with 80% for the GPT-4 baseline described in that paper. These are results for the paper’s particular setup and benchmark, not a general performance guarantee.
Реалізація в реальному світі
An agent receives unit-test feedback, writes a reflection, and retries a coding task.
A researcher compares Reflexion’s benchmark setup with its stated baseline.
An evaluator supplies task-specific feedback that the agent can inspect.
A developer stops iteration when a defined success condition is met.
Майбутнє рефлексії та самокорегуючих агентів
Self-correction methods remain dependent on evaluation quality, task design, and iteration cost. Avoid claims of general improvement without testing; reflections can be mistaken or lead to loops.
Застосування на практиці
Чому це важливо
- Створіть вибір. Розробка на рівні програми визначає, чи покращує ШІ реальні результати.
- Команда та робочий процес. Хороша інтеграція робочого процесу підвищує продуктивність, якій користувачі довіряють.
- Ризики та безпека. Добре розроблені варіанти використання зменшують втому від змін і ризик впровадження.
Зверніть увагу на
- Автоматизація несправного процесу може посилити існуючі проблеми.
- Команди можуть надмірно автоматизувати роботу й усунути необхідне людське судження.
- Якість може погіршуватися, якщо результати не оцінюються постійно.
Наступні кроки
- Намалюйте поточний робочий процес і визначте крок із найбільшим тертям.
- Визначте контрольні точки людини перед повною автоматизацією.
- Навчіть користувачів підказкам, шляхам ескалації та стандартам якості.
- Відстежуйте результати на рівні завдання, щоб підтвердити постійну цінність.
Продовжуйте досліджувати
Безплатний розсилок
Отримуйте щоденне зведення новин про ШІ
Три перевірені історії про ШІ щоробочого ранку, написані простою мовою. Безплатно назавжди, без реклами.
Один лист щотижня з понеділка по п'ятницю. Відписатися в один клік. Ми ніколи не продаємо та не передаємо вашу адресу.
Перевір себе
Take the Reflexion and Self-Correcting Agents quiz
Миттєва зворотна связь на кожну відповідь та сертифікат із перевіреним ідентифікатором, яким можна поділитися, після проходження курсу.
Підтримайте безплатну освіту у сфері ШІ. AI Understanding — це некомерційна організація 501(c)(3) — без реклами, без платних стін, назавжди. Зробіть пожертву
Часті запитання
What is Reflexion and Self-Correcting Agents?
Reflexion is a research framework in which language agents use task feedback to write textual reflections for later attempts. It changes context, not model weights.
Що є визначальною характеристикою того, як «навчається» агент Reflexion?
Рефлексію іноді називають «навчанням із словесним підкріпленням», оскільки уроки зберігаються в пам’яті як текст природною мовою, а не закодовані в параметрах моделі.
Що робить оцінювач у рамках Reflexion?
Оцінювач (одиничний тест, перевірка точної відповідності або суддя LLM) дає сигнал про те, що крок саморефлексії перетворюється на текстовий урок.
Чому якість оцінювального сигналу так важлива в Reflexion?
Якщо оцінювач ненадійний, агент може написати впевнені роздуми на основі поганого зворотного зв’язку, спрямовуючи майбутні спроби в неправильному напрямку.
On which coding benchmark did the Reflexion paper report a 91% pass@1 result?
The paper reports 91% pass@1 on HumanEval for its Reflexion coding setup; the result is specific to that evaluation.
Що є справжнім відкритим ризиком із самокоригуючими агентами?
Без правильного правила зупинки агент може продовжувати переглядати правильні відповіді, втрачаючи обчислення та іноді погіршуючи якісний результат.
Продовжуйте вчитися
Пов'язані посібники
Інші посібники, вибрані для цієї теми