Аналогия и подсказка «шаг назад»
Подсказки по аналогии и подсказки «шаг назад» направляют модель сначала к рассуждениям на более высоком уровне: подсказка по аналогии позволяет вспомнить аналогичные решенные проблемы, а подсказка «шаг назад» позволяет выявить основополагающий принцип, прежде чем переходить к конкретным вопросам.
Обзор
They matter because abstraction often beats diving straight into details.
Глубокое погружение
Это два связанных между собой метода исследования Google 2023 года, направленных на улучшение рассуждений. Подсказка по аналогии, предложенная Ясунагой и его коллегами, просит модель самостоятельно сгенерировать несколько соответствующих примеров, аналогичных проблем, которые она фактически видела, и их решения, прежде чем решать целевую проблему, устраняя необходимость в рукописных примерах. Подсказка «шаг назад», разработанная Чжэном и его коллегами, вместо этого сначала задает абстрактный вопрос («какой общий принцип или факт управляет этим?»), извлекает или рассуждает об этом принципе, а затем применяет его к конкретному вопросу. Оба отталкивают модель от преждевременных деталей. Step-Back продемонстрировал успехи в вопросах физики и химии, а также в многошаговом рассуждении, в то время как аналоговые подсказки улучшили математику и генерацию кода за счет адаптации примеров к каждой конкретной проблеме.
Техническая информация
Шаг назад работает, потому что обоснование ответа на заявленном принципе (скажем, законе идеального газа или определении) ограничивает последующие подробные рассуждения и уменьшает промахи на промежуточных шагах. Аналогичные подсказки работают, потому что самостоятельно созданные примеры соответствуют конкретной проблеме, часто более релевантны, чем фиксированные примеры из нескольких примеров, и они подготавливают подходящую модель решения. Оба смещают вычисления в сторону сначала извлечения правильной абстракции, а затем выполнения обоснованной детальной работы.
Стратегическое воздействие
Скорость и масштаб
Языковые рабочие процессы могут развиваться быстрее, не жертвуя при этом согласованностью.
Доступ и охват
Это расширяет доступ к различным языкам и стилям общения.
Более четкие решения
Команды могут тратить больше времени на принятие решений, в то время как автоматизация занимается повторением.
Будущее аналоговых и обратных подсказок
Ожидайте, что эти шаблоны, основанные на абстракции, сольются с поисковыми системами, где принцип отступления становится точным запросом в базе знаний, и с планировщиками агентов, которые рассуждают о стратегии, а не о тактике. Исследования совершенствуются, когда помогают самостоятельно созданные аналогии, а не когда они приводят неуместные или неверные примеры, и сочетают отступление с проверкой, чтобы выбранный принцип проверялся, прежде чем на нем строить серьезные рассуждения. Они, вероятно, будут значениями по умолчанию в моделях, настроенных на рассуждения.
Реальная реализация
Отвечая на вопрос по физике, сначала указав соответствующий закон (например, второй закон Ньютона) с помощью шага назад, а затем подставив числа.
Решение новой математической задачи, когда модель вспоминает пару похожих решенных задач с помощью аналогичных подсказок.
Решение викторинного вопроса, состоящего из нескольких переходов, путем возврата к более широкой категории или сущности, прежде чем объединять факты в цепочку
Генерация кода путем самостоятельной генерации аналогичного алгоритма и его решения с последующей адаптацией под текущую задачу.
Риски и ограничения
Галлюцинированные факты могут незаметно войти в отчеты, потоки поддержки или результаты исследований.
Незамедлительная чувствительность может привести к противоречивым результатам по схожим запросам.
Конфиденциальные текстовые данные могут быть раскрыты, если контроль доступа слабый.
Дорожная карта реализации
Перед развертыванием определите выходной формат, тон и стандарты качества.
Наземные ответы с помощью надежных источников, когда точность имеет значение.
Обеспечьте контрольную точку человеческого контроля для получения важных результатов.
Отслеживайте закономерности сбоев и регулярно обновляйте подсказки или рабочие процессы.
Продолжайте исследовать
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Analogical and Step-Back Prompting quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Следующее руководство
От наименее к наиболее подсказкам
Часто задаваемые вопросы
What is Analogical and Step-Back Prompting?
Подсказки по аналогии и подсказки «шаг назад» направляют модель сначала к рассуждениям на более высоком уровне: подсказка по аналогии позволяет вспомнить аналогичные решенные проблемы, а подсказка «шаг назад» позволяет выявить основополагающий принцип, прежде чем переходить к конкретным вопросам. Они имеют значение, потому что абстракция часто важнее погружения в детали.
Что аналогичная подсказка требует от модели перед решением целевой задачи?
Подсказка по аналогии заставляет модель генерировать собственные соответствующие примеры и решения, адаптированные к проблеме.
Каков первый шаг в подсказке «Шаг назад»?
Шаг назад сначала задает абстрактный вопрос, чтобы выявить принцип или факт, который управляет проблемой.
Почему помогает обоснование ответа на заявленном принципе («Шаг назад»)?
Изложение руководящего принципа в первую очередь направляет и ограничивает детализированные шаги, снижая вероятность ошибок.
В каких задачах подсказка «Шаг назад» показала заметные результаты?
Функция «Шаг назад» улучшила производительность при решении научных вопросов и многошаговых рассуждений за счет абстрагирования в первую очередь.
Каков отмеченный риск аналогичных подсказок?
Поскольку модель изобретает свои собственные аналогии, эти примеры иногда могут быть неуместными или неправильными, что искажает ответ.