ДалееСледующее руководство
Увеличение времени тестирования
Технический
РУКОВОДСТВО ПО ЯЗЫКУ ИИ
Масштабирование вычислений во время тестирования
Масштабирование вычислений во время тестирования означает предоставление модели больше времени на обдумывание и вычисления, когда она отвечает на вопрос, а не только увеличение ее размера во время обучения.
Прослушайте это руководствоОзвучено ИИ · ~2 min
На этой странице2 минуты чтения
Обзор
Это прорыв в области «моделей рассуждения», которые могут решать сложные математические задачи и задачи кодирования путем размышления, прежде чем ответить.
Глубокое погружение
В течение многих лет прогресс ИИ означал масштабирование обучения: больше данных, больше параметров, больше предтренировочных вычислений. Масштабирование вычислений во время тестирования добавляет вторую ось, затрачивая больше вычислений на вывод. Вместо того, чтобы мгновенно выдать ответ, модель рассуждения генерирует длинную внутреннюю цепочку мыслей, изучая шаги, проверяя работу и возвращаясь назад. Методы включают в себя расширенную цепочку размышлений, выборку множества возможных решений и выбор лучшего (самосогласованность или лучшее из N), а также поиск в виде дерева, управляемый проверяющей моделью или моделью вознаграждения. Расширенное мышление OpenAI o1 и o3, DeepSeek-R1 и Claude популяризировало это: точность соревновательных математических вычислений и программирования резко возрастает, когда вы позволяете модели «думать дольше», жертвуя задержкой и затратами на правильность в задачах, где быстрый ответ невозможен.
Реальная реализация
Модели o1 и o3 OpenAI шаг за шагом решают математические задачи олимпиадного уровня, значительно превосходя модели мгновенного ответа в тестах AIME и соревнованиях.
DeepSeek-R1 использовал обучение с подкреплением для обучения рассуждениям с длинной цепочкой мыслей, открыто демонстрируя большой прирост точности за счет дополнительных вычислений вывода.
Расширенный режим мышления Claude позволяет разработчикам устанавливать бюджет токенов, чтобы модель дольше думала над сложными задачами кодирования или анализа, прежде чем ответить.
AlphaCode и подобные системы отбирают тысячи программ-кандидатов во время тестирования, затем фильтруют и ранжируют их для решения конкурентных задач по программированию.
Будущее масштабирования вычислений во время тестирования
Вычисления во время тестирования теперь являются основным рычагом масштабирования наряду с обучением. Ожидайте адаптивных бюджетов, в которых модель решает, насколько сложно думать в зависимости от сложности, более дешевых рассуждений за счет разделения длинных цепочек на более короткие и «агентных» циклов, которые чередуют мышление с вызовами инструментов и поиском в Интернете. По мере совершенствования оборудования для вывода осознанное рассуждение станет стандартом для таких важных задач, как научные исследования, разработка программного обеспечения и сложное планирование, в то время как быстрый поиск останется быстрым и дешевым.
Применение на практике
Почему это важно
- Скорость и масштаб. Языковые рабочие процессы могут развиваться быстрее, не жертвуя при этом согласованностью.
- Доступ и охват. Это расширяет доступ к различным языкам и стилям общения.
- Более четкие решения. Команды могут тратить больше времени на принятие решений, в то время как автоматизация занимается повторением.
Следите за
- Галлюцинированные факты могут незаметно войти в отчеты, потоки поддержки или результаты исследований.
- Незамедлительная чувствительность может привести к противоречивым результатам по схожим запросам.
- Конфиденциальные текстовые данные могут быть раскрыты, если контроль доступа слабый.
Следующие шаги
- Перед развертыванием определите выходной формат, тон и стандарты качества.
- Наземные ответы с помощью надежных источников, когда точность имеет значение.
- Обеспечьте контрольную точку человеческого контроля для получения важных результатов.
- Отслеживайте закономерности сбоев и регулярно обновляйте подсказки или рабочие процессы.
Продолжайте исследовать
Бесплатная рассылка
Получайте ежедневный AI-обзор
Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.
Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.
Проверьте себя
Take the Test-Time Compute Scaling quiz
Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.
Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование
Часто задаваемые вопросы
Что такое масштабирование вычислений во время тестирования?
Масштабирование вычислений во время тестирования означает предоставление модели больше времени на обдумывание и вычисления, когда она отвечает на вопрос, а не только увеличение ее размера во время обучения. Это прорыв в области «моделей рассуждения», которые могут решать сложные математические задачи и проблемы кодирования путем размышления, прежде чем ответить.
Что означает «вычисление во время тестирования»?
Вычисления во время тестирования (времени вывода) — это работа, выполняемая при генерировании ответа, отличная от вычислений, используемых во время предварительного обучения.
In test-time scaling studies, what can extra inference compute be used for?
The study examines inference-time strategies including sampling candidates, revising answers and using process-based reward models to allocate computation.
В чем заключается основной компромисс при масштабировании вычислений во время тестирования?
Если дать модели возможность подумать дольше, это повысит правильность решения сложных задач, но увеличит время отклика и вычислительные затраты.
Что такое выборка «лучшая из N»?
Best-of-N генерирует несколько попыток решения параллельно и использует систему оценки или верификатора, чтобы сохранить самую сильную из них, что является формой масштабирования во время тестирования.
Почему вычисления во время тестирования считаются новой «осью масштабирования»?
В течение многих лет масштабирование означало более масштабные тренировочные прогоны; Вычисления во время тестирования добавляют второй способ повышения производительности — дополнительные вычисления при выводе.
Продолжайте учиться
Связанные руководства
Другие руководства, выбранные по этой теме