ДаліНаступний посібник
Збільшення часу тестування
технічний
Мова AI GUIDE
Масштабування тестового часу
Масштабування обчислень під час тестування означає надання моделі більше часу на обдумування та обчислення, коли вона відповідає на запитання, а не лише збільшення під час навчання.
Послухайте цей посібникШІ-розказаний · ~2 min
На цій сторінці2 хвилини читання
Огляд
Це прорив у «моделях міркування», які можуть вирішувати складні математичні проблеми та проблеми кодування, розмірковуючи перед відповіддю.
Глибоке занурення
Протягом багатьох років розвиток ШІ означав масштабне навчання: більше даних, більше параметрів, більше обчислень перед навчанням. Масштабування обчислень під час тестування додає другу вісь, витрачаючи більше обчислень на висновок. Замість того, щоб миттєво видавати відповідь, модель міркування створює довгий внутрішній ланцюжок думок, досліджуючи кроки, перевіряючи роботу та повертаючись назад. Методи включають розширений ланцюг думок, вибірку багатьох варіантів рішень і вибір найкращого (самоузгодженість або найкраще з N), а також пошук у стилі дерева, керований верифікатором або моделлю винагороди. OpenAI o1 і o3, DeepSeek-R1 і розширене мислення Claude популяризували це: точність конкуренційної математики та програмування різко зростає, коли ви дозволяєте моделі «довше думати», обмінюючи затримку та ціну на правильність у проблемах, де миттєва відповідь не вдається.
Реалізація в реальному світі
Моделі o1 і o3 від OpenAI крок за кроком продумують математичні задачі рівня олімпіади, значно перевершуючи моделі миттєвих відповідей за тестами AIME та змагань.
DeepSeek-R1 використовував навчання з підкріпленням, щоб навчити довгому міркуванню за ланцюгом думок, відкрито демонструючи значний приріст точності завдяки додатковому обчисленню висновків.
Розширений режим мислення Claude дозволяє розробникам установлювати символічний бюджет, щоб модель довше міркувала над складними завданнями кодування або аналізу, перш ніж відповісти.
AlphaCode і подібні системи відбирають тисячі програм-кандидатів під час тестування, а потім фільтрують і ранжують їх для вирішення конкурентних проблем програмування.
Майбутнє масштабування обчислень під час тестування
Обчислення під час тестування тепер є основним інструментом масштабування поряд із навчанням. Очікуйте адаптивних бюджетів, коли модель вирішує, наскільки складно мислити на основі труднощів, дешевшого міркування через дистиляцію довгих ланцюжків у коротші та «агентних» циклів, які перемежовують мислення з викликами інструментів і веб-пошуком. З удосконаленням обладнання логічного висновку навмисне обґрунтування стане стандартним для таких складних завдань, як наукові дослідження, розробка програмного забезпечення та складне планування, тоді як швидкий пошук залишається швидким і дешевим.
Застосування на практиці
Чому це важливо
- Швидкість і масштаб. Мовні робочі процеси можуть рухатися швидше без шкоди для узгодженості.
- Доступ і охоплення. Це розширює доступ до різних мов і стилів спілкування.
- Чіткіші рішення. Команди можуть витрачати більше часу на оцінювання, поки автоматизація справляється з повторенням.
Зверніть увагу на
- Галюциновані факти можуть непомітно входити у звіти, допоміжні потоки або результати досліджень.
- Делікатність підказок може створити суперечливі результати для подібних запитів.
- Конфіденційні текстові дані можуть бути розкриті, якщо контроль доступу слабкий.
Наступні кроки
- Визначте вихідний формат, тон і стандарти якості перед розгортанням.
- Якщо точність має значення, зв’яжіться з надійними джерелами.
- Тримайте контрольну точку перевірки людьми для отримання високих ставок.
- Відстежуйте моделі збоїв і регулярно перенавчайте підказки або робочі процеси.
Продовжуйте досліджувати
Безплатний розсилок
Отримуйте щоденне зведення новин про ШІ
Три перевірені історії про ШІ щоробочого ранку, написані простою мовою. Безплатно назавжди, без реклами.
Один лист щотижня з понеділка по п'ятницю. Відписатися в один клік. Ми ніколи не продаємо та не передаємо вашу адресу.
Перевір себе
Take the Test-Time Compute Scaling quiz
Миттєва зворотна связь на кожну відповідь та сертифікат із перевіреним ідентифікатором, яким можна поділитися, після проходження курсу.
Підтримайте безплатну освіту у сфері ШІ. AI Understanding — це некомерційна організація 501(c)(3) — без реклами, без платних стін, назавжди. Зробіть пожертву
Часті запитання
Що таке масштабування тестового часу?
Масштабування обчислень під час тестування означає надання моделі більше часу на обдумування та обчислення, коли вона відповідає на запитання, а не лише збільшення під час навчання. Це прорив у «моделях міркування», які можуть вирішувати складні математичні проблеми та проблеми кодування, обмірковуючи перш ніж відповісти.
Що означає «обчислення тестового часу»?
Обчислення часу тестування (часу висновку) — це робота, яка виконується під час генерування відповіді, відмінна від обчислень, які використовуються під час попереднього навчання.
In test-time scaling studies, what can extra inference compute be used for?
The study examines inference-time strategies including sampling candidates, revising answers and using process-based reward models to allocate computation.
Який основний компроміс масштабування обчислень під час тестування?
Дозволити моделі думати довше покращує правильність складних задач, але збільшує час відповіді та обчислювальну вартість.
Що таке вибірка «найкраще з N»?
Best-of-N генерує кілька спроб вирішення паралельно та використовує систему підрахунку результатів або перевірку, щоб зберегти найсильнішу з них, форму масштабування часу тестування.
Чому обчислення під час тестування вважають новою «віссю масштабування»?
Протягом багатьох років масштабування означало більші тренувальні пробіжки; обчислення під час тестування додає другий спосіб підвищити можливості, обчислюючи більше на основі висновків.
Продовжуйте вчитися
Пов'язані посібники
Інші посібники, вибрані для цієї теми