ДаліНаступний посібник
Сіамські мережі та триплетні втрати
технічний
Технічний КЕРІВНИЦТВО
Фокусні втрати — це модифікована функція втрат, яка зменшує вагу простих прикладів, щоб детектор міг зосередитися на важких, рідкісних.
Послухайте цей посібникШІ-розказаний · ~2 min
It solved the extreme background-versus-object imbalance that crippled one-stage object detectors.
При виявленні об’єктів зображення може містити лише кілька реальних об’єктів, але десятки тисяч потенційних місць, майже всі з яких є легким фоном. Зі стандартною крос-ентропією цей потік легких негативів домінує над градієнтом і заглушає рідкісні позитиви. Фокальна втрата, представлена в статті RetinaNet 2017 року Ліном і колегами з Facebook AI, виправляє це шляхом множення крос-ентропії на коефіцієнт (1 - p_t)^gamma. Коли зразок класифіковано впевнено та правильно, p_t наближається до 1, тому коефіцієнт зменшується до нуля, а добре класифікований приклад майже не впливає. Жорсткі, неправильно класифіковані приклади зберігають майже повну вагу. Маючи гамму близько 2, RetinaNet зрівнявся або перевершив повільніші двоступеневі детектори, такі як Faster R-CNN, залишаючись простою однопрохідною мережею.
Виявлення маленьких дорожніх знаків або віддалених пішоходів у кадрах автономного водіння, де більшість пікселів є фоном.
Виявлення рідкісних пухлин або уражень у медичних сканах, де переважають здорові тканини.
Виявлення дефектів на виробничій лінії, де переважна більшість перевірених деталей є нормальною.
Ідентифікація малих суден або транспортних засобів на великих супутникових і аерофотознімках.
Фокальна втрата стала основним компонентом далеко за межами RetinaNet, з’являючись у таких детекторах, як FCOS, у сегментації та довгохвостій класифікації. Variants such as quality focal loss, distribution focal loss, and varifocal loss refine it for modern anchor-free and transformer-based detectors. Оскільки виявлення зміщується в бік моделей прогнозування набору, таких як DETR, які використовують двосторонню відповідність, перезважування у фокусному стилі залишається практичним інструментом, якщо частоти класів сильно спотворені.
Безплатний розсилок
Три перевірені історії про ШІ щоробочого ранку, написані простою мовою. Безплатно назавжди, без реклами.
Один лист щотижня з понеділка по п'ятницю. Відписатися в один клік. Ми ніколи не продаємо та не передаємо вашу адресу.
Перевір себе
Миттєва зворотна связь на кожну відповідь та сертифікат із перевіреним ідентифікатором, яким можна поділитися, після проходження курсу.
Підтримайте безплатну освіту у сфері ШІ. AI Understanding — це некомерційна організація 501(c)(3) — без реклами, без платних стін, назавжди. Зробіть пожертву
Фокусні втрати — це модифікована функція втрат, яка зменшує вагу простих прикладів, щоб детектор міг зосередитися на важких, рідкісних. Це вирішило надзвичайний дисбаланс фону та об’єкта, який пошкодив одноступеневі детектори об’єктів.
У щільному виявленні легкі фонові приклади значно переважають реальні об’єкти та домінують у стандартному крос-ентропійному градієнті. Переваги фокусних втрат, такі рідкісні, важкі приклади важливіші.
Фокальна втрата становить -(1 - p_t)^gamma * log(p_t). Член (1 - p_t)^gamma зменшується до нуля для впевнено правильних прогнозів.
При gamma = 0 коефіцієнт (1 - p_t)^0 дорівнює 1, тому фокусні втрати точно зводяться до стандартної крос-ентропії.
Вища гамма змушує член (1 - p_t)^гамма скорочуватися швидше для високого p_t, тому прості приклади ще менше вносять втрату та градієнт.
Фокальна втрата була представлена в документі RetinaNet 2017 року, що дозволило одноступінчатому детектору конкурувати з точними двоетапними методами.
Продовжуйте вчитися
Інші посібники, вибрані для цієї теми
ДаліНаступний посібник
Сіамські мережі та триплетні втрати
технічний