ПОСІБНИК З ОСНОВ
Функції активації
Функції активації — це невеликі нелінійні ворота всередині кожного нейрона, які дозволяють нейронним мережам вивчати складні криві шаблони замість прямих ліній.
Послухайте цей посібникШІ-розказаний · ~2 min
На цій сторінці2 хвилини читання
Огляд
Без них глибока мережа згорнулася б в єдине лінійне рівняння.
Глибоке занурення
Кожен нейрон обчислює зважену суму своїх вхідних даних, але сама ця сума є лінійною. Складіть багато лінійних шарів, і з математичної точки зору у вас залишиться лише одна велика лінійна функція, незалежно від того, наскільки глибока. Функції активації порушують це, застосовуючи нелінійне перетворення до кожного виходу нейрона, даючи мережам можливість апроксимувати майже будь-яку функцію. Найпопулярнішим є ReLU, який просто виводить вхідні дані, якщо вони додатні, і нуль в інших випадках; це швидко та дозволяє уникнути деяких проблем із навчанням старіших функцій. Sigmoid і tanh стискають значення в обмежені діапазони і були поширеними історично, але можуть страждати від зникаючих градієнтів у глибоких мережах. Функція softmax, яка використовується на виході, перетворює необроблені оцінки в розподіл ймовірностей за класами.
Реалізація в реальному світі
Використання ReLU в прихованих шарах згорткової мережі, щоб вона могла вивчати вигнуті межі рішень для розпізнавання зображень
Застосування softmax на останньому рівні, щоб перетворити вихідні оцінки класифікатора на ймовірності класу, сума яких дорівнює одиниці
Вибір активації GELU в моделі мови трансформатора для більш плавного градієнтного потоку
Перехід на Leaky ReLU, коли занадто багато нейронів у мережі загинули та перестали відповідати
Майбутнє функцій активації
ReLU та його гладкий двоюрідний брат GELU домінують сьогодні, причому GELU віддають перевагу в трансформерах, оскільки його плавна крива добре поєднується з їхньою динамікою навчання. Дослідження досліджують вивчені та стробовані активації, такі як SwiGLU, які зараз поширені у великих мовних моделях, які використовують мультиплікативне стробування для підвищення виразності. Загальна тенденція спрямована на плавні, закриті функції, які покращують градієнтний потік і якість моделі в масштабі. Хоча екзотичні активації регулярно з’являються в газетах, на практиці прості, добре функціонуючі функції, як правило, перемагають, оскільки вони надійно тренуються на величезних моделях.
Застосування на практиці
Чому це важливо
- Чіткіші рішення. Це допоможе вам відокремити чіткі технічні заяви від маркетингової мови.
- Вартість і бюджет. Перш ніж витрачати гроші чи час, ви можете задати питання про кращу реалізацію.
- Команда та робочий процес. Команди зі спільним розумінням приймають кращі рішення щодо продуктів, політики та навчання.
Зверніть увагу на
- Різні команди можуть використовувати той самий термін по-різному, тому визначте обсяг завчасно.
- Порівняльні показники можуть виглядати сильними, тоді як продуктивність у реальному світі нерівномірна.
- Ігнорування якості даних і планів оцінки часто призводить до нестабільних результатів.
Наступні кроки
- Почніть із простого визначення необхідного результату.
- Перед тестуванням виберіть одну метрику успіху та одну умову невдачі.
- Запустіть невеликий пілот із репрезентативними даними, а не відшліфованим демонстраційним набором.
- Задокументуйте, де функції активації допомагають, а де простіші методи кращі.
Продовжуйте досліджувати
Безплатний розсилок
Отримуйте щоденне зведення новин про ШІ
Три перевірені історії про ШІ щоробочого ранку, написані простою мовою. Безплатно назавжди, без реклами.
Один лист щотижня з понеділка по п'ятницю. Відписатися в один клік. Ми ніколи не продаємо та не передаємо вашу адресу.
Перевір себе
Пройдіть тест на функції активації
Миттєва зворотна связь на кожну відповідь та сертифікат із перевіреним ідентифікатором, яким можна поділитися, після проходження курсу.
Підтримайте безплатну освіту у сфері ШІ. AI Understanding — це некомерційна організація 501(c)(3) — без реклами, без платних стін, назавжди. Зробіть пожертву
Часті запитання
Що таке функції активації?
Функції активації — це невеликі нелінійні ворота всередині кожного нейрона, які дозволяють нейронним мережам вивчати складні криві шаблони замість прямих ліній. Без них глибока мережа згорнулася б в єдине лінійне рівняння.
Чому стекування лише лінійних шарів не може засвоїти вигнуту межу рішення?
Без нелінійних активацій кілька лінійних шарів складаються в інше лінійне відображення.
Чому sigmoid і tanh можуть зупинити навчання в глибоких мережах, коли вхідні дані досягають крайніх значень?
На своїх плоских крайніх рівнях їхні близькі до нуля градієнти послаблюють зворотний сигнал.
Мультикласовий класифікатор потребує вихідних значень, які в класах дорівнюють одиниці. Яку функцію використовує посібник?
Softmax перетворює необроблені оцінки класів у розподіл ймовірностей за класами.
Що означає проблема «вмираючого ReLU» в посібнику?
ReLU, який застряг, отримавши негативні дані, може продовжувати виводити нуль, запобігаючи корисним оновленням через цей пристрій.
Який варіант пропонується, коли багато одиниць ReLU залишаються неактивними?
Посібник називає Leaky ReLU реакцією на мертві одиниці, оскільки його негативна сторона не рівна нулю.
Продовжуйте вчитися
Пов'язані посібники
Інші посібники, вибрані для цієї теми