ДаліНаступний посібник
Batch vs Real-Time Inference
технічний
Технічний КЕРІВНИЦТВО
Пакетна нормалізація
Пакетна нормалізація — це техніка, яка перемасштабує вхідні дані для кожного рівня нейронної мережі під час навчання, завдяки чому глибокі мережі навчаються швидше та надійніше.
Послухайте цей посібникШІ-розказаний · ~2 min
На цій сторінці2 хвилини читання
Огляд
Це стало одним із найпоширеніших трюків у глибокому навчанні.
Глибоке занурення
Оскільки дані проходять через глибоку мережу, розподіл значень, що подають кожен рівень, продовжує зміщуватися в міру оновлення попередніх рівнів, що сповільнює та дестабілізує навчання. Пакетна нормалізація, запроваджена Іоффе та Сегеді в 2015 році, вирішує це шляхом нормалізації вхідних даних кожного шару в поточному міні-пакеті, щоб вони мали приблизно нульове середнє значення та одиничну дисперсію. Потім він застосовує два параметри, які можна вивчати, гамма та бета, які дозволяють масштабувати мережу та зміщувати нормалізовані значення назад, якщо це допомагає, тому він не втрачає можливості представлення. Вигода велика: мережі витримують більш високі темпи навчання, збігаються за меншу кількість епох, менш чутливі до ініціалізації ваги та часто узагальнюють трохи краще. Заковика в тому, що поведінка залежить від статистики партії, тому дуже малі партії можуть зробити її нестабільною.
Реалізація в реальному світі
Вставлення шарів пакетної норми в класифікатор зображень ResNet, щоб він міг тренуватися з вищою швидкістю навчання та збігатися за набагато меншу кількість епох.
Стабілізація навчання глибокої згорткової мережі для медичного зображення, яка раніше розходилася без нормалізації.
Зменшення чутливості до ініціалізації ваги в власному CNN, тому інженери витрачають менше часу на ручне налаштування початкових значень.
Перехід від пакетної статистики в режимі навчання до збережених поточних середніх значень під час розгортання моделі, щоб прогнози на одному зображенні залишалися послідовними.
Майбутнє пакетної нормалізації
Пакетна нормалізація залишається робочою конячкою в моделях згорткового бачення, але її залежність від пакетної статистики незручна для рекурентних мереж, крихітних пакетів і розподіленого навчання. Це спонукало до впровадження таких альтернатив, як нормалізація рівня, яка нормалізує функції в одному прикладі та тепер домінує в архітектурах трансформаторів, а також нормалізація груп і екземплярів для певних доменів. Тривають дослідження мереж без нормалізації, які відповідають її перевагам завдяки ретельній ініціалізації та масштабуванню. Очікуйте, що нормалізація залишатиметься важливою, а конкретний варіант буде обрано відповідно до архітектури.
Застосування на практиці
Чому це важливо
- Вартість і бюджет. Архітектурні рішення збільшують продуктивність і експлуатаційні витрати протягом багатьох років.
- Чіткіші рішення. Технічна освіта допомагає командам вибрати правильний стек, а не лише найновіший.
- Контроль якості. Кращий інженерний вибір зменшує проблеми з надійністю у виробництві.
Зверніть увагу на
- Оптимізація одного тесту може приховати ширші слабкі сторони системи.
- Витрати на інфраструктуру та обслуговування часто недооцінюються.
- Прогалини в безпеці та спостережуваності можуть зростати в міру ускладнення систем.
Наступні кроки
- Визначте цільові показники затримки, якості та вартості перед впровадженням.
- Тест за реалістичних умов навантаження та даних.
- Моніторинг інструментів на наявність помилок, дрейфу та впливу користувача.
- Перед масштабуванням підготуйте шляхи відкату та реагування на інциденти.
Продовжуйте досліджувати
Безплатний розсилок
Отримуйте щоденне зведення новин про ШІ
Три перевірені історії про ШІ щоробочого ранку, написані простою мовою. Безплатно назавжди, без реклами.
Один лист щотижня з понеділка по п'ятницю. Відписатися в один клік. Ми ніколи не продаємо та не передаємо вашу адресу.
Перевір себе
Take the Batch Normalization quiz
Миттєва зворотна связь на кожну відповідь та сертифікат із перевіреним ідентифікатором, яким можна поділитися, після проходження курсу.
Підтримайте безплатну освіту у сфері ШІ. AI Understanding — це некомерційна організація 501(c)(3) — без реклами, без платних стін, назавжди. Зробіть пожертву
Часті запитання
Що таке пакетна нормалізація?
Пакетна нормалізація — це техніка, яка перемасштабує вхідні дані для кожного рівня нейронної мережі під час навчання, завдяки чому глибокі мережі навчаються швидше та надійніше. Це стало одним із найпоширеніших прийомів глибокого навчання.
Що нормалізує пакетна нормалізація?
Пакетна норма стандартизує вхідні дані рівня, використовуючи середнє значення та дисперсію, обчислені для поточного міні-пакета, зберігаючи активації в стабільному діапазоні під час навчання.
Чому пакетна нормалізація включає гамма- та бета-параметри, які можна вивчати?
Після нормалізації до нульового середнього значення та одиничної дисперсії гама та бета дозволяють мережі масштабувати та повторно зміщувати значення, якщо це вигідно, тому нормалізація не обмежує те, що може представляти рівень.
Яка практична перевага пакетної нормалізації зазвичай згадується?
Зберігаючи добре масштабовані вхідні дані рівня, пакетна норма дозволяє мережам тренуватися з більшою швидкістю навчання, швидше конвергувати та бути менш чутливими до ініціалізації.
Під час висновку (прогнозування на основі нових даних), яку статистику використовує пакетна нормалізація?
Використання статистичних даних про партію в режимі реального часу зробило б прогноз залежним від того, які інші приклади поділяють цю партію. Натомість пакетна норма використовує фіксовані плинні середні значення, які зберігаються під час навчання.
Чому нормалізація партії може працювати погано з дуже малими розмірами партії?
Норма партії залежить від оцінки середнього значення та дисперсії від партії. З дуже малою кількістю прикладів ці оцінки є шумними, що може дестабілізувати навчання.
Продовжуйте вчитися
Пов'язані посібники
Інші посібники, вибрані для цієї теми