Mixup и CutMix Augmentation
Mixup и CutMix са методи за увеличаване на данни, които създават нови примери за обучение чрез смесване на две изображения и техните етикети.
Преглед
Mixup linearly interpolates whole images and labels, while CutMix pastes a rectangular patch from one image onto another and mixes labels by patch area — both reduce overfitting and improve robustness.
Дълбоко гмуркане
Mixup (Zhang et al., 2017) формира нова извадка като x̃ = λ·x_a + (1−λ)·x_b с етикета ỹ, смесен от същия λ, където λ е извлечен от бета разпределение. Това насърчава модела да се държи линейно между примерите, изглаждайки границите на решенията и подобрявайки калибрирането. Вместо това CutMix (Yun et al., 2019) изрязва правоъгълен регион от изображение B и го поставя върху изображение A; теглото на етикета се задава от съотношението на пикселите, които всяко изображение допринася. Тъй като CutMix поддържа локално кохерентни региони на изображението (вместо призрачни смеси), той запазва полезна пространствена структура, като същевременно принуждава модела да обръща внимание на множество обекти и части. И двете техники действат като силни регулатори, повишават точността на сравнителните показатели в мащаба на ImageNet и по-специално подобряват устойчивостта към корупция и противопоставяне.
Техническа информация
И двата метода променят целта за загуба, а не само входа. Етикетът се превръща в мека, смесена цел, така че загубата на кръстосана ентропия е λ-претеглена комбинация от два класа - ефективно форма на изглаждане на етикета, свързана със съотношението на смесване на пикселите. В CutMix λ се равнява на частта от непроменени пиксели, изчислена от площта на полето за изрязване, разделена на общата площ на изображението, което поддържа пропорцията на етикета в съответствие с това колко от всяко изображение е видимо.
Стратегическо въздействие
Cost and budget
Архитектурните решения стимулират производителността и оперативните разходи в продължение на години.
Clearer decisions
Техническото образование помага на екипите да изберат правилния стек, а не само най-новия.
Quality control
По-добрият инженерен избор намалява инцидентите, свързани с надеждността в производството.
Бъдещето на Mixup и CutMix Augmentation
Увеличаването, базирано на смеси, вече е стандарт в силните рецепти за класификация на изображения и е в основата на съвременните тръбопроводи за обучение за трансформатори на зрението, които често се нуждаят от тежка регуляризация. Продължават изследванията върху варианти, съобразени със значимостта (напр. поставяне на съкращения върху информационни региони), смесване на ниво токен за трансформатори и разширения към аудио, текст и 3D данни. Очаквайте стратегиите за смесване да останат евтин лост за повишаване на точността, калибрирането и устойчивостта, тъй като архитектурите стават все по-жадни за данни.
Внедряване в реалния свят
Обучение на класификатори на ImageNet с CutMix за повишаване на точността от първо място и подобряване на локализацията на обекти.
Прилагане на Mixup за подобряване на калибрирането на модела, така че прогнозираните уверености да съответстват по-добре на истинската точност.
Силно регулиращи зрителни трансформатори (напр. DeiT) с комбинирани Mixup и CutMix за обучение върху ограничени данни.
Повишаване на устойчивостта към повреда на изображението и входове извън разпространението в критични за безопасността визуални системи.
Рискове и предпазни огради
Оптимизирането на един бенчмарк може да скрие по-широки системни слабости.
Разходите за инфраструктура и поддръжка често се подценяват.
Пропуските в сигурността и видимостта могат да нарастват, когато системите стават по-сложни.
Пътна карта за изпълнение
Определете целите за латентност, качество и разходи преди внедряването.
Бенчмарк при реалистични условия на натоварване и данни.
Мониторинг на инструмента за грешки, отклонение и въздействие върху потребителя.
Подгответе пътеките за връщане назад и реакция на инцидент преди мащабиране.
Продължете да изследвате
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Mixup and CutMix Augmentation quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Next guide
Увеличаване на тестовото време
Frequently asked questions
What is Mixup and CutMix Augmentation?
Mixup и CutMix са методи за увеличаване на данни, които създават нови примери за обучение чрез смесване на две изображения и техните етикети. Mixup линейно интерполира цели изображения и етикети, докато CutMix поставя правоъгълна кръпка от едно изображение върху друго и смесва етикети по област на кръпка — както намалява прекомерното приспособяване, така и подобрява здравината.
Как Mixup създава нов пример за обучение?
Смесването формира x̃ = λx_a + (1−λ)x_b и смесва етикетите със същия λ, извлечен от бета разпределение.
Каква е основната разлика между CutMix и Mixup?
CutMix копира правоъгълна област от едно изображение в друго, запазвайки локално кохерентно съдържание, вместо да смесва две изображения заедно.
В CutMix как се определя теглото на смесване (ламбда) за етикетите?
Пропорцията на етикета в CutMix се задава от площта на поставеното поле спрямо цялото изображение, поддържайки етикетите в съответствие с видимите пиксели.
Освен входното изображение, какво друго променят Mixup и CutMix?
И двата метода също смесват етикетите, създавайки меки цели, които действат като зависима от данните форма на изглаждане на етикети.
Кое разпределение обикновено се използва за вземане на проби от коефициента на смесване ламбда?
Mixup и CutMix обикновено извличат λ от бета разпределение, което контролира колко силно се смесват двата примера.