Рассуждение в виде дерева мыслей
Древо мыслей позволяет модели параллельно исследовать множество путей рассуждения, подобно ветвям дерева, вместо того, чтобы придерживаться одной линии мысли.
Обзор
It can look ahead, evaluate partial solutions, and backtrack from dead ends.
Глубокое погружение
Представлено Яо и др. в 2023 году «Древо мыслей» (ToT) обобщает подсказки цепочки мыслей. Там, где цепочка мыслей создает единую линейную последовательность шагов рассуждения, ToT структурирует проблему в виде дерева: каждый узел представляет собой частичное решение («мысль»), а модель генерирует несколько возможных следующих мыслей из каждого узла. На отдельном этапе оценки оценивается, насколько перспективна каждая ветвь, и алгоритм поиска, такой как поиск в ширину или в глубину, решает, какие ветви расширять, а какие сокращать. Это позволяет модели сознательно исследовать, заглядывать на несколько шагов вперед и возвращаться, когда путь кажется бесперспективным. ToT блестяще справился с задачами, которые побеждают жадное одностороннее мышление, наиболее известной из которых является «Игра 24», где GPT-4 с цепочкой мыслей решил около 4% головоломок, но ToT увеличил успех примерно до 74%.
Техническая информация
ToT состоит из трех частей: генератор мыслей, который предлагает кандидату следующие шаги, оценщик состояния (часто тот же самый LLM, которому предлагается оценить или проголосовать за частичные решения как «верные/возможно/невозможные») и процедуру поиска (BFS, DFS или лучевой поиск), которая перемещается по дереву. Поскольку модель оценивает частичные состояния и отсекает слабые ветви, она распределяет вычисления в пользу перспективных областей пространства решений, обменивая дополнительные выводы на существенно более высокую точность при решении сложных задач.
Стратегическое воздействие
Стоимость и бюджет
Архитектурные решения влияют на производительность и эксплуатационные расходы на протяжении многих лет.
Более четкие решения
Техническое образование помогает командам выбрать правильный стек, а не только самый новый.
Контроль качества
Лучший инженерный выбор снижает вероятность возникновения проблем с надежностью на производстве.
Будущее рассуждений, основанных на древе мыслей
Древо мыслей влияет на то, как расходуются вычисления времени вывода: вместо одного большого прохода вперед системы все чаще ищут пути рассуждения и выбирают лучшее. Будущая работа направлена на то, чтобы узнать, когда ветвление оправдывает высокую стоимость токена, использовать обученные функции значений вместо самооценки на основе подсказок и объединить поиск по дереву в модели рассуждения, чтобы обсуждение было более эффективным. Ожидайте более тесной интеграции с инструментами и средствами проверки, чтобы оценка ветвей основывалась на реальной обратной связи, а не на догадках модели.
Реальная реализация
Решение игры 24 путем разветвления двух чисел, которые нужно объединить первыми, и сокращения арифметических путей, которые не могут достичь 24.
Творческое письмо со связным планом, где модель составляет несколько набросков сюжета, оценивает их и расширяет самые сильные перед тем, как писать прозу.
Головоломки с ограничениями, такие как мини-кроссворды, где каждое заполненное слово — это мысль, а несовместимые ветки оставлены.
Многоэтапные математические задачи или задачи планирования, когда модель исследует альтернативные промежуточные шаги и отступает от тех, которые нарушают ограничения.
Риски и ограничения
Оптимизация одного теста может скрыть более широкие недостатки системы.
Затраты на инфраструктуру и техническое обслуживание часто недооцениваются.
Пробелы в безопасности и наблюдаемости могут увеличиваться по мере усложнения систем.
Дорожная карта реализации
Определите целевые показатели задержки, качества и стоимости перед внедрением.
Тестирование при реалистичной нагрузке и условиях данных.
Мониторинг прибора на наличие ошибок, дрейфа и влияния пользователя.
Перед масштабированием подготовьте пути отката и реагирования на инциденты.
Продолжайте исследовать
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Tree-of-Thoughts Reasoning quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Следующее руководство
Дерево мыслей
Часто задаваемые вопросы
What is Tree-of-Thoughts Reasoning?
Древо мыслей позволяет модели параллельно исследовать множество путей рассуждения, подобно ветвям дерева, вместо того, чтобы придерживаться одной линии мысли. Он может смотреть вперед, оценивать частичные решения и отступать от тупика.
Чем «Древо мыслей» отличается от подсказок по цепочке мыслей?
Цепочка мыслей создает единую линейную последовательность, тогда как Древо мыслей разветвляется на множество возможных путей, которые можно оценить и сократить.
Что обычно представляет один узел в «Дереве мыслей»?
Каждый узел представляет собой частичное решение (мысль), и модель расширяет несколько возможных следующих мыслей из каждого узла.
Какую роль играет государственный оценщик в «Древе мыслей»?
Оценщик, часто тот же самый LLM, оценивает или голосует за частичные состояния (например, «верно/может быть/невозможно»), чтобы поиск мог сосредоточиться на перспективных ветвях.
В тесте «Игра 24» ToT значительно обогнал цепочку мыслей, примерно на какой скачок?
GPT-4 с цепочкой мыслей решил около 4% головоломок «Игры 24», а с помощью «Древа мыслей» - примерно 74%.
Какие стратегии поиска обычно используются для навигации по дереву мыслей?
ToT сочетает генерацию и оценку мыслей с классическими процедурами поиска, такими как BFS, DFS или лучевой поиск, чтобы решить, какие ветви расширять.