ДаліНаступний посібник
Навчання під час тестування
основи
Технічний КЕРІВНИЦТВО
Підвищення часу тестування (TTA) запускає навчену модель на кількох змінених версіях того самого входу та усереднює прогнози.
Послухайте цей посібникШІ-розказаний · ~2 min
Це простий трюк, який не потребує тренувань, який часто дає кілька додаткових балів точності та робить прогнози більш надійними.
Збільшення часу тестування приймає один вхід, створює кілька трансформованих копій (перевертає, обрізає, повертає, змінює колір або масштабує версії), запускає кожну через ту саму фіксовану модель, а потім об’єднує виходи — зазвичай шляхом усереднення ймовірностей або логітів. Інтуїція: кожне розширення відкриває модель для дещо іншого вигляду, а помилки в окремих переглядах мають тенденцію скасовуватися, коли об’єднуються, як крихітний ансамбль, створений з однієї мережі. Важливо, що TTA не потребує перенавчання та додаткових позначок; це тільки коштує більше обчислень при висновку, оскільки модель запускається N разів на вибірку. Він найбільш популярний у комп’ютерному зорі (особливо у змаганнях Kaggle та медичних зображеннях), але також з’являється в аудіо та тексті. Збільшення мають зберегти мітку — перевернути рентгенівський знімок грудної клітки можна, але перевернути цифру «6» на «9» — ні.
Усереднення прогнозів за горизонтальними переворотами та багаторазовими кадруваннями зображення для підвищення точності класифікації ImageNet під час висновку.
Інвертування поворотів/переворотів і масок усереднення в сегментації медичних зображень (наприклад, межі пухлини або органу) для більш стабільного окреслення.
Конкуренти Kaggle, які застосовують TTA з десяти зернових або мультимасштабом, щоб отримати частки відсотка в таблиці лідерів без перенавчання.
Запуск мовних або аудіокласифікаторів над кліпами з дещо зсувом у часі або висотою звуку та об’єднання виходів для більш стабільних міток.
Дослідження рухаються до навченого та адаптивного TTA, де невелика політика вибирає, які розширення допоможуть для кожного конкретного вхідного сигналу замість застосування фіксованого набору. «Жадібний» і диференційований пошук політики TTA, а також усереднення, зважене на невизначеність, яке більше довіряє впевненим поглядам, є активними областями. Очікуйте, що TTA поєднується з навчанням під час тестування та самоконтрольованою адаптацією, дозволяючи розгорнутим моделям адаптуватися до зміни дистрибуції на льоту, зберігаючи при цьому привабливу властивість без повторного навчання.
Безплатний розсилок
Три перевірені історії про ШІ щоробочого ранку, написані простою мовою. Безплатно назавжди, без реклами.
Один лист щотижня з понеділка по п'ятницю. Відписатися в один клік. Ми ніколи не продаємо та не передаємо вашу адресу.
Перевір себе
Миттєва зворотна связь на кожну відповідь та сертифікат із перевіреним ідентифікатором, яким можна поділитися, після проходження курсу.
Підтримайте безплатну освіту у сфері ШІ. AI Understanding — це некомерційна організація 501(c)(3) — без реклами, без платних стін, назавжди. Зробіть пожертву
Підвищення часу тестування (TTA) запускає навчену модель на кількох змінених версіях того самого входу та усереднює прогнози. Це простий трюк, який не потребує тренувань, який часто дає кілька додаткових балів точності та робить прогнози більш надійними.
TTA подає кілька розширених версій одного вхідного сигналу через ту саму навчену модель і агрегує прогнози без повторного навчання.
The ensemble intuition depends on useful, label-preserving views whose errors are not perfectly correlated.
Оскільки кожен вхідний сигнал проходить через мережу N разів, логічний висновок стає приблизно в N разів дорожчим.
Доповнення повинні зберігати справжню мітку; перевертання певних цифр змінює їх ідентичність і вносить упередженість.
Геометричні розширення переміщують пікселі, тому кожну вихідну маску потрібно повернути до вихідної системи координат перед об’єднанням.
Продовжуйте вчитися
Інші посібники, вибрані для цієї теми
ДаліНаступний посібник
Навчання під час тестування
основи