Mixup і CutMix Augmentation
Mixup і CutMix — це методи доповнення даних, які створюють нові навчальні приклади, змішуючи два зображення та їхні мітки.
Огляд
Mixup linearly interpolates whole images and labels, while CutMix pastes a rectangular patch from one image onto another and mixes labels by patch area — both reduce overfitting and improve robustness.
Глибоке занурення
Mixup (Zhang et al., 2017) формує нову вибірку як x̃ = λ·x_a + (1−λ)·x_b із міткою ỹ, змішаною з тим самим λ, де λ взято з бета-розподілу. Це спонукає модель до лінійної поведінки між прикладами, згладжуючи межі рішень і покращуючи калібрування. Натомість CutMix (Yun та ін., 2019) вирізає прямокутну область із зображення B і вставляє її на зображення A; ваги міток встановлюються пропорцією пікселів кожного зображення. Оскільки CutMix зберігає локально когерентні області зображення (а не примарні змішування), він зберігає корисну просторову структуру, водночас змушуючи модель звертати увагу на кілька об’єктів і частин. Обидва методи діють як сильні регуляризатори, підвищують точність контрольних тестів масштабу ImageNet і, зокрема, покращують стійкість до пошкоджень і конкурентних вхідних даних.
Технічне розуміння
Обидва методи змінюють ціль втрати, а не лише вхідні дані. Мітка стає м’якою, змішаною ціллю, тому втрата перехресної ентропії є λ-зваженою комбінацією двох класів — фактично формою згладжування мітки, пов’язаної з коефіцієнтом змішування пікселів. У CutMix λ дорівнює частці незмінених пікселів, обчисленій шляхом поділення площі рамки вирізання на загальну площу зображення, завдяки чому пропорція мітки відповідає видимості кожного зображення.
Стратегічний вплив
Вартість і бюджет
Архітектурні рішення збільшують продуктивність і експлуатаційні витрати протягом багатьох років.
Чіткіші рішення
Технічна освіта допомагає командам вибрати правильний стек, а не лише найновіший.
Контроль якості
Кращий інженерний вибір зменшує проблеми з надійністю у виробництві.
Майбутнє Mixup і CutMix Augmentation
Розширення на основі суміші тепер є стандартом у ефективних рецептах класифікації зображень і лежить в основі сучасних конвеєрів навчання для трансформаторів зору, які часто потребують серйозної регулярізації. Тривають дослідження варіантів з урахуванням помітності (наприклад, розміщення скорочень на інформативних областях), змішування на рівні маркерів для трансформаторів і розширення аудіо, тексту та 3D-даних. Очікуйте, що стратегії змішування залишаться недорогим важелем для підвищення точності, калібрування та надійності, оскільки архітектури стають все більш потребуючими даними.
Реалізація в реальному світі
Навчання класифікаторів ImageNet за допомогою CutMix для підвищення точності першого рівня та покращення локалізації об’єктів.
Застосування Mixup для покращення калібрування моделі, щоб прогнозована достовірність краще відповідала справжній точності.
Сильно регуляризовані трансформатори зору (наприклад, DeiT) із поєднанням Mixup і CutMix для навчання на обмежених даних.
Підвищення стійкості до спотворень зображення та нерозподілених вхідних даних у критично важливих для безпеки системах зору.
Ризики та огорожі
Оптимізація одного тесту може приховати ширші слабкі сторони системи.
Витрати на інфраструктуру та обслуговування часто недооцінюються.
Прогалини в безпеці та спостережуваності можуть зростати в міру ускладнення систем.
Дорожня карта впровадження
Визначте цільові показники затримки, якості та вартості перед впровадженням.
Тест за реалістичних умов навантаження та даних.
Моніторинг інструментів на наявність помилок, дрейфу та впливу користувача.
Перед масштабуванням підготуйте шляхи відкату та реагування на інциденти.
Продовжуйте досліджувати
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Mixup and CutMix Augmentation quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Наступний посібник
Збільшення часу тестування
Часті запитання
What is Mixup and CutMix Augmentation?
Mixup і CutMix — це методи доповнення даних, які створюють нові навчальні приклади, змішуючи два зображення та їхні мітки. Mixup лінійно інтерполює цілі зображення та мітки, тоді як CutMix вставляє прямокутну ділянку з одного зображення на інше та змішує мітки за областю патча — і зменшує надлишок, і підвищує надійність.
Як Mixup створює новий навчальний приклад?
Змішування утворює x̃ = λx_a + (1−λ)x_b і змішує мітки з тим самим λ, взятим із бета-розподілу.
Яка основна різниця між CutMix і Mixup?
CutMix копіює прямокутну область з одного зображення на інше, зберігаючи локально узгоджений вміст, а не фантомні два зображення разом.
Як у CutMix визначається маса змішування (лямбда) для етикеток?
Пропорція мітки в CutMix встановлюється площею вставленого поля відносно всього зображення, зберігаючи мітки узгодженими з видимими пікселями.
Крім вхідного зображення, що ще змінюють Mixup і CutMix?
Обидва методи також змішують мітки, створюючи м’які цілі, які діють як залежна від даних форма згладжування міток.
Який розподіл зазвичай використовується для вибірки коефіцієнта змішування лямбда?
Mixup і CutMix зазвичай беруть λ із бета-розподілу, який контролює, наскільки сильно змішуються два приклади.