Технічний КЕРІВНИЦТВО

Плануй і розв’язуй підказки

Підказка «Плануйте та вирішуйте» (PS) повідомляє мовній моделі спочатку розробити чіткий план, а потім виконувати його крок за кроком, виправляючи помилки, які залишає позаду проста підказка «давайте подумаємо крок за кроком».

Послухайте цей посібникШІ-розказаний · ~2 min

На цій сторінці2 хвилини читання
  1. Огляд
  2. Глибоке занурення
  3. Реалізація в реальному світі
  4. Майбутнє плануй і вирішуй підказки
  5. Застосування на практиці
  6. Продовжуйте досліджувати
  7. Часті запитання

Огляд

Це просте швидке налаштування, яке суттєво покращує багатоетапне міркування без додаткового навчання.

Глибоке занурення

Опублікований у документі ACL 2023 року Леєм Вангом та його колегами, підказки «Плануйте та вирішуйте» були відповіддю на конкретну слабкість нульового ланцюжка думок: моделі часто пропускають кроки, неправильно обчислюють або неправильно читають запитання. PS замінює єдину інструкцію «Давайте думати крок за кроком» директивою з двох частин: «Давайте спочатку зрозуміємо проблему та розробимо план її вирішення». Тоді давайте виконувати план і вирішувати проблему крок за кроком». Покращений варіант, PS+, додає нагадування про виділення відповідних змінних, обчислення проміжних результатів і звернення уваги на числа. У таких тестах, як GSM8K і SVAMP, PS+ усунув значну частину розриву за допомогою кількох ланцюжків думок, не потребуючи жодних працюючих прикладів у підказці.

Реалізація в реальному світі

Розв’язування багатоетапних математичних текстових задач для початкової школи (GSM8K), де модель спочатку перераховує величини, а потім обчислює їх по порядку.

Керівництво помічника з кодування, щоб окреслити функції та крайові випадки перед написанням будь-якого коду реалізації.

Структурування агента підтримки клієнтів, щоб спочатку визначити основну мету користувача, а потім послідовність кроків вирішення проблеми.

Розбиття складного запиту на аналіз даних на етапи «планування запитів» з подальшим виконанням і об’єднанням результатів.

Майбутнє плануй і вирішуй підказки

Мислення за принципом «плануй і вирішуй» тепер запікається в структуру агентів і моделі «роздумів», які відокремлюють планування від виконання. Очікуйте, що підказки планування об’єднаються з методами використання інструментів, самоперевіркою та деревним пошуком і стануть внутрішньою поведінкою за замовчуванням у навчених моделях, а не підказкою вручну. Остаточний урок полягає в тому, що декомпозиція завдання перед тим, як діяти, є дешевим, широко доступним надбанням надійності.

Застосування на практиці

Чому це важливо

  • Вартість і бюджет. Архітектурні рішення збільшують продуктивність і експлуатаційні витрати протягом багатьох років.
  • Чіткіші рішення. Технічна освіта допомагає командам вибрати правильний стек, а не лише найновіший.
  • Контроль якості. Кращий інженерний вибір зменшує проблеми з надійністю у виробництві.

Зверніть увагу на

  • Оптимізація одного тесту може приховати ширші слабкі сторони системи.
  • Витрати на інфраструктуру та обслуговування часто недооцінюються.
  • Прогалини в безпеці та спостережуваності можуть зростати в міру ускладнення систем.

Наступні кроки

  1. Визначте цільові показники затримки, якості та вартості перед впровадженням.
  2. Тест за реалістичних умов навантаження та даних.
  3. Моніторинг інструментів на наявність помилок, дрейфу та впливу користувача.
  4. Перед масштабуванням підготуйте шляхи відкату та реагування на інциденти.

Продовжуйте досліджувати

Безплатний розсилок

Отримуйте щоденне зведення новин про ШІ

Три перевірені історії про ШІ щоробочого ранку, написані простою мовою. Безплатно назавжди, без реклами.

Один лист щотижня з понеділка по п'ятницю. Відписатися в один клік. Ми ніколи не продаємо та не передаємо вашу адресу.

Перевір себе

Take the Plan-and-Solve Prompting quiz

Миттєва зворотна связь на кожну відповідь та сертифікат із перевіреним ідентифікатором, яким можна поділитися, після проходження курсу.

Розпочати вікторину

Підтримайте безплатну освіту у сфері ШІ. AI Understanding — це некомерційна організація 501(c)(3) — без реклами, без платних стін, назавжди. Зробіть пожертву

Часті запитання

Що таке планування та вирішення?

Підказка «Плануйте та вирішуйте» (PS) повідомляє мовній моделі спочатку розробити чіткий план, а потім виконувати його крок за кроком, виправляючи помилки, які залишає позаду проста підказка «давайте подумаємо крок за кроком». Це просте швидке налаштування, яке суттєво покращує багатоетапне міркування без додаткового навчання.

Яку основну зміну вносить підказка «Плануйте та вирішуйте» у стандартний нульовий ланцюг думок?

Підказка PS поділяє інструкцію на розробку плану та подальше виконання його крок за кроком замість єдиного рядка «Давайте подумаємо крок за кроком».

Які конкретні недоліки простого ланцюжка думок було розроблено для усунення Плануй і вирішуй?

Автори націлилися на помилки пропущених кроків і помилки в арифметичних/обчисленнях, які часто спричиняють нульовий ланцюг думок.

Що покращений варіант PS+ додає до основного підказки «Плануйте та вирішуйте»?

PS+ додає докладні нагадування для вилучення відповідних змінних, обчислення проміжних результатів і звернення уваги на цифри, загострюючи власно створений каркас.

За яким типом еталонного тесту було помітно оцінено планування та вирішення?

PS і PS+ були протестовані на тестах математичних міркувань, таких як GSM8K і SVAMP, серед інших наборів даних міркування.

Чому створення плану перед детальними кроками, як правило, допомагає авторегресійній моделі?

Оскільки генерація є авторегресійною, токени плану високого рівня стають контекстом, який спрямовує подальші покрокові міркування, зменшуючи кількість пропущених кроків.

Продовжуйте вчитися

Пов'язані посібники

Інші посібники, вибрані для цієї теми

Отримайте безкоштовний сертифікат зі ШІКороткий безкоштовний курс та іспит. Безкоштовно, без картки. Близько 2,5 години.Почати безкоштовно →