СледваСледващо ръководство
Рефлексия и самокоригиращи агенти
Приложения
Техническо РЪКОВОДСТВО
Саморефлексия в Agent Loops
Саморефлексията позволява на AI агент да критикува собствените си резултати и действия по време на задачата, след което да преразгледа въз основа на тази критика.
Чуйте това ръководствоAI-разказан · ~2 min
На тази страница2 минути четене
Преглед
It turns a one-shot guesser into a system that catches and fixes its own mistakes.
Дълбоко гмуркане
В цикъл на агент езиковият модел предприема действия (извикване на инструменти, писане на код, отговаряне), наблюдава резултатите и решава какво да прави по-нататък. Самоотражението добавя преднамерена стъпка, при която моделът оценява скорошната си работа, преди да продължи. Рамки като Reflexion (2023) правят това конкретно: след неуспешен опит агентът пише кратка словесна критика („Забравих да се справя с празния списък“) и я съхранява в паметта, така че следващият опит зависи от този урок. Self-Refine използва същия модел за генериране на обратна връзка и след това пренаписва своя отговор итеративно. Отражението може да дойде от сравняване на резултата с цел, проверка на съобщения за грешка или изпълнение на тестове. Изплащането е по-висока надеждност при многоетапни задачи като кодиране, уеб навигация и математика, където едно преминаване често е неуспешно, но цикълът на критика и повторен опит е успешен.
Внедряване в реалния свят
Кодиращ агент изпълнява неуспешен модулен тест, чете обратното проследяване, записва отражение, отбелязвайки грешката off-by-one, и пренаписва функцията при следващата итерация на цикъла.
Агент за сърфиране в мрежата, който е щракнал върху грешната връзка, отразява страницата, на която е попаднал, разпознава несъответствието с целта си и се връща назад, за да опита с друга връзка.
Научен сътрудник съставя отговор, критикува го за неподкрепени твърдения и го преразглежда, за да добави цитати или хеджира несигурни твърдения, преди да го върне.
Агент за решаване на математика проверява крайния си отговор спрямо ограниченията на проблема, забелязва несъответствие на единица и преработва изчислението, вместо да подаде грешен резултат.
Бъдещето на саморефлексията в Agent Loops
Очаквайте отражението да се превърне във вграден примитивен агент, а не в подканващ трик, с модели, обучени да знаят кога отражението си струва допълнителните токени и кога просто изгаря изчисленията. Моделите на верификаторите и обратната връзка за изпълнението все повече ще основават самокритика, така че агентите да спрат да халюцинират, че грешните отговори са верни. Изследванията също са насочени към режима на неуспех, при който моделите уверено потвърждават лоша работа, насочвайки се към калибрирано, базирано на доказателства отражение и научени критерии за спиране на цикъла.
Прилагайки го на практика
Защо има значение
- Разходи и бюджет. Архитектурните решения стимулират производителността и оперативните разходи в продължение на години.
- По-ясни решения. Техническото образование помага на екипите да изберат правилния стек, а не само най-новия.
- Контрол на качеството. По-добрият инженерен избор намалява инцидентите, свързани с надеждността в производството.
Внимавайте за
- Оптимизирането на един бенчмарк може да скрие по-широки системни слабости.
- Разходите за инфраструктура и поддръжка често се подценяват.
- Пропуските в сигурността и видимостта могат да нарастват, когато системите стават по-сложни.
Следващи стъпки
- Определете целите за латентност, качество и разходи преди внедряването.
- Бенчмарк при реалистични условия на натоварване и данни.
- Мониторинг на инструмента за грешки, отклонение и въздействие върху потребителя.
- Подгответе пътеките за връщане назад и реакция на инцидент преди мащабиране.
Продължете да изследвате
Безплатен бюлетин
Получавайте дневния AI бюлетин
Три проверени AI истории всяка делнична сутрин, написани на достъпен език. Безплатно завинаги, без реклами.
Един имейл всеки делничен ден. Отписване с едно кликване. Никога не продаваме и не споделяме вашия имейл адрес.
Тествайте себе си
Take the Self-Reflection in Agent Loops quiz
Незабавна обратна връзка за всеки отговор и сертификат за споделяне с подлежащ на проверка идентификационен номер, след като преминете курс.
Подкрепете безплатното AI образование. AI Understanding е 501(c)(3) с нестопанска цел — без реклами, без платен достъп, никога. Направете дарение
Често задавани въпроси
What is Self-Reflection in Agent Loops?
Саморефлексията позволява на AI агент да критикува собствените си резултати и действия по време на задачата, след което да преразгледа въз основа на тази критика. Той превръща еднократния гадател в система, която улавя и поправя собствените си грешки.
Какво добавя саморефлексията към стандартния агентски цикъл?
Саморефлексията вмъква стъпка на оценка, в която агентът критикува последните си действия или резултати и използва тази критика, за да насочи следващия си ход.
В рамките на Reflexion къде се съхраняват самокритиките на модела?
Рефлексията запазва вербалните самокритики в епизодичен буфер на паметта и ги захранва в контекста при по-късни опити, така че ученето е в контекст, а не чрез актуализиране на теглото.
Кой обратен сигнал за отражение е най-надежден?
Обоснованите външни сигнали, като неуспешни тестове или грешки по време на изпълнение, дават конкретна, надеждна обратна връзка, докато чисто самогенерираната критика може да е грешна.
Какъв е известният неуспешен режим на саморефлексия?
Без обоснована обратна връзка, моделите понякога преглеждат погрешната работа и неправилно заключават, че е добре, така че външната проверка е важна.
Как подходът за самоусъвършенстване обикновено генерира обратна връзка?
Self-Refine има един единствен модел, който генерира обратна връзка за своята чернова и след това итеративно преработва изхода, използвайки тази обратна връзка.
Продължавай да учиш
Свързани ръководства
Още ръководства, избрани за тази тема