Техническо РЪКОВОДСТВО

Планирайте и решавайте подкани

Подканата за планиране и решаване (PS) казва на езиковия модел първо да изработи ясен план и след това да го изпълни стъпка по стъпка, коригирайки неуспехите, които обикновената подкана „нека помислим стъпка по стъпка“ оставя след себе си.

2 min readПоследна актуализация

Преглед

It is a simple prompt tweak that meaningfully boosts multi-step reasoning without any extra training.

Дълбоко гмуркане

Въведено в документ за ACL от 2023 г. от Лей Уанг и колеги, подканването „Планирай и решавай“ беше отговор на специфична слабост в последователността на мисълта с нулев удар: моделите често пропускат стъпки, грешно изчисляват или неправилно четат въпроса. PS заменя единствената инструкция „Да мислим стъпка по стъпка“ с директива от две части: „Нека първо разберем проблема и изработим план за разрешаването му. Тогава нека изпълним плана и да решим проблема стъпка по стъпка. Подобреният вариант, PS+, добавя напомняния за извличане на съответните променливи, изчисляване на междинни резултати и обръщане на внимание на числата. При бенчмаркове като GSM8K и SVAMP, PS+ затвори голяма част от празнината с кратка последователност на мисли, като същевременно не се нуждаеше от работещи примери в подканата.

Техническа информация

Механизмът е чисто в подканата: като иска план преди изпълнението, PS измества авторегресивното генериране на модела, така че първо да произвежда подцели на високо ниво, които след това обуславят подробните логически мотиви, които следват. Това разделяне намалява „липсващите стъпки“ и грешките в изчисленията. PS+ допълнително насочва вниманието, като изрично назовава променливи и междинни количества, действайки като самогенерирано скеле, вместо да разчита на ръчно написани примери.

Стратегическо въздействие

Cost and budget

Архитектурните решения стимулират производителността и оперативните разходи в продължение на години.

Clearer decisions

Техническото образование помага на екипите да изберат правилния стек, а не само най-новия.

Quality control

По-добрият инженерен избор намалява инцидентите, свързани с надеждността в производството.

Бъдещето на планирането и решаването на подсказките

Мисленето за планиране и решаване сега е включено в рамки на агенти и модели на „разсъждение“, които изначално разделят планирането от изпълнението. Очаквайте подканите за планиране да се слеят с методите за използване на инструменти, самопроверка и дървовидно търсене и да станат вътрешно поведение по подразбиране в обучени към разумни модели, а не ръчна подкана. Трайният урок е, че декомпозирането на задача преди действие е евтина, широко преносима печалба за надеждност.

Внедряване в реалния свят

Решаване на многоетапни математически текстови задачи за начален етап (GSM8K), където моделът първо изброява количествата, след което ги изчислява по ред.

Насочване на асистент за кодиране, за да очертае функции и крайни случаи, преди да напише какъвто и да е код за внедряване.

Структуриране на агент за поддръжка на клиенти, който първо да идентифицира основната цел на потребителя, след което да подреди стъпките за разрешаване.

Разбиване на сложна заявка за анализ на данни на „планиране на заявките“, последвано от фази „изпълнение и комбиниране на резултатите“.

Рискове и предпазни огради

Оптимизирането на един бенчмарк може да скрие по-широки системни слабости.

Разходите за инфраструктура и поддръжка често се подценяват.

Пропуските в сигурността и видимостта могат да нарастват, когато системите стават по-сложни.

Пътна карта за изпълнение

1

Определете целите за латентност, качество и разходи преди внедряването.

2

Бенчмарк при реалистични условия на натоварване и данни.

3

Мониторинг на инструмента за грешки, отклонение и въздействие върху потребителя.

4

Подгответе пътеките за връщане назад и реакция на инцидент преди мащабиране.

Продължете да изследвате

Free newsletter

Get the daily AI briefing

Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.

One email each weekday. Unsubscribe in one click. We never sell or share your address.

Test yourself

Take the Plan-and-Solve Prompting quiz

Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.

Start quiz

Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation

Next guide

Подсказване от най-малко към най-много

Frequently asked questions

What is Plan-and-Solve Prompting?

Подканата за планиране и решаване (PS) казва на езиковия модел първо да изработи ясен план и след това да го изпълни стъпка по стъпка, коригирайки неуспехите, които обикновената подкана „нека помислим стъпка по стъпка“ оставя след себе си. Това е проста бърза настройка, която смислено подобрява многоетапното разсъждение без никакво допълнително обучение.

Каква основна промяна прави подканянето „Планирай и решавай“ в стандартната последователност от нулеви изстрели?

Подканянето на PS разделя инструкцията на изготвяне на план и след това изпълнението му стъпка по стъпка, вместо единичния ред „Нека помислим стъпка по стъпка“.

За справяне с кои специфични слабости на обикновената последователна мисъл е предназначена Планирай и решавай?

Авторите са се насочили към грешки при липсващи стъпки и аритметични/изчислителни грешки, които нулевата верига на мисълта често произвежда.

Какво добавя подобреният PS+ вариант към основната подкана за планиране и решаване?

PS+ добавя подробни напомняния за извличане на съответните променливи, изчисляване на междинни резултати и обръщане на внимание на числата, изостряйки самостоятелно генерираното скеле.

На кой тип бенчмарк е оценен планирането и решаването?

PS и PS+ бяха тествани на бенчмаркове за математически разсъждения като GSM8K и SVAMP, наред с други набори от данни за разсъждения.

Защо генерирането на план преди подробните стъпки обикновено помага на авторегресивен модел?

Тъй като генерирането е авторегресивно, токените на плана на високо ниво се превръщат в контекст, който ръководи последващото разсъждение стъпка по стъпка, намалявайки пропуснатите стъпки.