СледваСледващо ръководство
Подсказване от най-малко към най-много
Езиков AI
Техническо РЪКОВОДСТВО
Планирайте и решавайте подкани
Подканата за планиране и решаване (PS) казва на езиковия модел първо да изработи ясен план и след това да го изпълни стъпка по стъпка, коригирайки неуспехите, които обикновената подкана „нека помислим стъпка по стъпка“ оставя след себе си.
Чуйте това ръководствоAI-разказан · ~2 min
На тази страница2 минути четене
Преглед
It is a simple prompt tweak that meaningfully boosts multi-step reasoning without any extra training.
Дълбоко гмуркане
Въведено в документ за ACL от 2023 г. от Лей Уанг и колеги, подканването „Планирай и решавай“ беше отговор на специфична слабост в последователността на мисълта с нулев удар: моделите често пропускат стъпки, грешно изчисляват или неправилно четат въпроса. PS заменя единствената инструкция „Да мислим стъпка по стъпка“ с директива от две части: „Нека първо разберем проблема и изработим план за разрешаването му. Тогава нека изпълним плана и да решим проблема стъпка по стъпка. Подобреният вариант, PS+, добавя напомняния за извличане на съответните променливи, изчисляване на междинни резултати и обръщане на внимание на числата. При бенчмаркове като GSM8K и SVAMP, PS+ затвори голяма част от празнината с кратка последователност на мисли, като същевременно не се нуждаеше от работещи примери в подканата.
Внедряване в реалния свят
Решаване на многоетапни математически текстови задачи за начален етап (GSM8K), където моделът първо изброява количествата, след което ги изчислява по ред.
Насочване на асистент за кодиране, за да очертае функции и крайни случаи, преди да напише какъвто и да е код за внедряване.
Структуриране на агент за поддръжка на клиенти, който първо да идентифицира основната цел на потребителя, след което да подреди стъпките за разрешаване.
Разбиване на сложна заявка за анализ на данни на „планиране на заявките“, последвано от фази „изпълнение и комбиниране на резултатите“.
Бъдещето на планирането и решаването на подсказките
Мисленето за планиране и решаване сега е включено в рамки на агенти и модели на „разсъждение“, които изначално разделят планирането от изпълнението. Очаквайте подканите за планиране да се слеят с методите за използване на инструменти, самопроверка и дървовидно търсене и да станат вътрешно поведение по подразбиране в обучени към разумни модели, а не ръчна подкана. Трайният урок е, че декомпозирането на задача преди действие е евтина, широко преносима печалба за надеждност.
Прилагайки го на практика
Защо има значение
- Разходи и бюджет. Архитектурните решения стимулират производителността и оперативните разходи в продължение на години.
- По-ясни решения. Техническото образование помага на екипите да изберат правилния стек, а не само най-новия.
- Контрол на качеството. По-добрият инженерен избор намалява инцидентите, свързани с надеждността в производството.
Внимавайте за
- Оптимизирането на един бенчмарк може да скрие по-широки системни слабости.
- Разходите за инфраструктура и поддръжка често се подценяват.
- Пропуските в сигурността и видимостта могат да нарастват, когато системите стават по-сложни.
Следващи стъпки
- Определете целите за латентност, качество и разходи преди внедряването.
- Бенчмарк при реалистични условия на натоварване и данни.
- Мониторинг на инструмента за грешки, отклонение и въздействие върху потребителя.
- Подгответе пътеките за връщане назад и реакция на инцидент преди мащабиране.
Продължете да изследвате
Безплатен бюлетин
Получавайте дневния AI бюлетин
Три проверени AI истории всяка делнична сутрин, написани на достъпен език. Безплатно завинаги, без реклами.
Един имейл всеки делничен ден. Отписване с едно кликване. Никога не продаваме и не споделяме вашия имейл адрес.
Тествайте себе си
Take the Plan-and-Solve Prompting quiz
Незабавна обратна връзка за всеки отговор и сертификат за споделяне с подлежащ на проверка идентификационен номер, след като преминете курс.
Подкрепете безплатното AI образование. AI Understanding е 501(c)(3) с нестопанска цел — без реклами, без платен достъп, никога. Направете дарение
Често задавани въпроси
What is Plan-and-Solve Prompting?
Подканата за планиране и решаване (PS) казва на езиковия модел първо да изработи ясен план и след това да го изпълни стъпка по стъпка, коригирайки неуспехите, които обикновената подкана „нека помислим стъпка по стъпка“ оставя след себе си. Това е проста бърза настройка, която смислено подобрява многоетапното разсъждение без никакво допълнително обучение.
Каква основна промяна прави подканянето „Планирай и решавай“ в стандартната последователност от нулеви изстрели?
Подканянето на PS разделя инструкцията на изготвяне на план и след това изпълнението му стъпка по стъпка, вместо единичния ред „Нека помислим стъпка по стъпка“.
За справяне с кои специфични слабости на обикновената последователна мисъл е предназначена Планирай и решавай?
Авторите са се насочили към грешки при липсващи стъпки и аритметични/изчислителни грешки, които нулевата верига на мисълта често произвежда.
Какво добавя подобреният PS+ вариант към основната подкана за планиране и решаване?
PS+ добавя подробни напомняния за извличане на съответните променливи, изчисляване на междинни резултати и обръщане на внимание на числата, изостряйки самостоятелно генерираното скеле.
На кой тип бенчмарк е оценен планирането и решаването?
PS и PS+ бяха тествани на бенчмаркове за математически разсъждения като GSM8K и SVAMP, наред с други набори от данни за разсъждения.
Защо генерирането на план преди подробните стъпки обикновено помага на авторегресивен модел?
Тъй като генерирането е авторегресивно, токените на плана на високо ниво се превръщат в контекст, който ръководи последващото разсъждение стъпка по стъпка, намалявайки пропуснатите стъпки.
Продължавай да учиш
Свързани ръководства
Още ръководства, избрани за тази тема