ДаліНаступний посібник
Катастрофічне забуття
ШІ мови
ПОСІБНИК З ОСНОВ
Постійне навчання та катастрофічне забування
Continual learning updates a model over a sequence of tasks or data streams while trying to retain useful prior capabilities.
Послухайте цей посібникШІ-розказаний · ~1 min
На цій сторінці1 хв читання
Огляд
Catastrophic forgetting is a common failure where learning new tasks degrades earlier performance.
Глибоке занурення
EWC uses a Fisher-information-based regularizer to discourage changes to parameters considered important for prior tasks. GEM uses episodic examples to constrain gradient updates; its guarantee concerns a local linear approximation to previous-task losses, so actual finite updates can still change performance. iCaRL stores exemplars, selects representatives with a herding procedure and classifies using per-class mean features. Replay methods revisit retained examples; these methods have different memory, privacy and compute tradeoffs. The stability-plasticity tradeoff describes balancing retention with learning new tasks.
Реалізація в реальному світі
Evaluate old and new tasks after each update.
Use replay samples when permitted by data policy.
Compare regularization methods such as EWC against fine-tuning.
Record task order and memory budget.
Майбутнє постійного навчання та катастрофічного забування
Continual-learning results depend on task sequence, model, data access, and evaluation protocol. Report both new-task learning and old-task retention.
Застосування на практиці
Чому це важливо
- Чіткіші рішення. Це допоможе вам відокремити чіткі технічні заяви від маркетингової мови.
- Вартість і бюджет. Перш ніж витрачати гроші чи час, ви можете задати питання про кращу реалізацію.
- Команда та робочий процес. Команди зі спільним розумінням приймають кращі рішення щодо продуктів, політики та навчання.
Зверніть увагу на
- Різні команди можуть використовувати той самий термін по-різному, тому визначте обсяг завчасно.
- Порівняльні показники можуть виглядати сильними, тоді як продуктивність у реальному світі нерівномірна.
- Ігнорування якості даних і планів оцінки часто призводить до нестабільних результатів.
Наступні кроки
- Почніть із простого визначення необхідного результату.
- Перед тестуванням виберіть одну метрику успіху та одну умову невдачі.
- Запустіть невеликий пілот із репрезентативними даними, а не відшліфованим демонстраційним набором.
- Задокументуйте, де постійне навчання та катастрофічне забування допомагають, а де простіші методи кращі.
Продовжуйте досліджувати
Безплатний розсилок
Отримуйте щоденне зведення новин про ШІ
Три перевірені історії про ШІ щоробочого ранку, написані простою мовою. Безплатно назавжди, без реклами.
Один лист щотижня з понеділка по п'ятницю. Відписатися в один клік. Ми ніколи не продаємо та не передаємо вашу адресу.
Перевір себе
Take the Continual Learning and Catastrophic Forgetting quiz
Миттєва зворотна связь на кожну відповідь та сертифікат із перевіреним ідентифікатором, яким можна поділитися, після проходження курсу.
Підтримайте безплатну освіту у сфері ШІ. AI Understanding — це некомерційна організація 501(c)(3) — без реклами, без платних стін, назавжди. Зробіть пожертву
Часті запитання
What is Continual Learning and Catastrophic Forgetting?
Continual learning updates a model over a sequence of tasks or data streams while trying to retain useful prior capabilities. Catastrophic forgetting is a common failure where learning new tasks degrades earlier performance.
Що таке «катастрофічне забування»?
Катастрофічне забування — це різка втрата продуктивності старих завдань, коли спільні ваги мережі перезаписуються під час вивчення чогось нового.
Що робить еластична консолідація ваги (EWC)?
EWC додає штраф (з використанням інформації Фішера), який фіксує ваги, які вважаються важливими для старих завдань, зменшуючи забування.
Як методи, засновані на відтворенні, борються із забуванням?
Replay змішує минулі приклади в нові пакети, щоб градієнти відображали як старі, так і нові завдання, наближаючи оригінальні спільні дані.
How does Gradient Episodic Memory (GEM) constrain a gradient update while learning a new task?
GEM projects updates using episodic-memory losses so the local first-order approximation does not increase loss on previous-task examples. This constraint is based on a local linearization and does not guarantee actual loss will never rise after every finite step.
Чому наївна тонка настройка нового завдання викликає забуття?
Необмежені оновлення градієнта переписують спільні ваги до нового оптимуму, відкидаючи регіони, які підходили для попередніх завдань.
Продовжуйте вчитися
Пов'язані посібники
Інші посібники, вибрані для цієї теми