ДалееСледующее руководство
Катастрофическое забвение
Языковой ИИ
РУКОВОДСТВО ПО ОСНОВАМ
Постоянное обучение и катастрофическое забывание
Continual learning updates a model over a sequence of tasks or data streams while trying to retain useful prior capabilities.
Прослушайте это руководствоОзвучено ИИ · ~1 min
На этой странице1 минута чтения
Обзор
Catastrophic forgetting is a common failure where learning new tasks degrades earlier performance.
Глубокое погружение
EWC uses a Fisher-information-based regularizer to discourage changes to parameters considered important for prior tasks. GEM uses episodic examples to constrain gradient updates; its guarantee concerns a local linear approximation to previous-task losses, so actual finite updates can still change performance. iCaRL stores exemplars, selects representatives with a herding procedure and classifies using per-class mean features. Replay methods revisit retained examples; these methods have different memory, privacy and compute tradeoffs. The stability-plasticity tradeoff describes balancing retention with learning new tasks.
Реальная реализация
Evaluate old and new tasks after each update.
Use replay samples when permitted by data policy.
Compare regularization methods such as EWC against fine-tuning.
Record task order and memory budget.
Будущее непрерывного обучения и катастрофического забывания
Continual-learning results depend on task sequence, model, data access, and evaluation protocol. Report both new-task learning and old-task retention.
Применение на практике
Почему это важно
- Более четкие решения. Это поможет вам отделить четкие технические заявления от маркетингового языка.
- Стоимость и бюджет. Вы можете задать более эффективные вопросы по реализации, прежде чем тратить деньги или время.
- Команда и рабочий процесс. Команды с общим пониманием принимают более эффективные решения по продуктам, политике и обучению.
Следите за
- Разные команды могут использовать один и тот же термин по-разному, поэтому заранее определите масштаб.
- Тесты могут выглядеть сильными, в то время как реальная производительность неравномерна.
- Игнорирование качества данных и планов оценки часто приводит к нестабильным результатам.
Следующие шаги
- Начните с простого определения желаемого результата.
- Перед тестированием выберите один показатель успеха и одно условие отказа.
- Запустите небольшой пилотный проект с репрезентативными данными, а не отточенный демонстрационный набор.
- Документ, в котором помогают непрерывное обучение и катастрофическое забывание и где более простые методы лучше.
Продолжайте исследовать
Бесплатная рассылка
Получайте ежедневный AI-обзор
Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.
Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.
Проверьте себя
Take the Continual Learning and Catastrophic Forgetting quiz
Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.
Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование
Часто задаваемые вопросы
Что такое постоянное обучение и катастрофическое забывание?
Continual learning updates a model over a sequence of tasks or data streams while trying to retain useful prior capabilities. Catastrophic forgetting is a common failure where learning new tasks degrades earlier performance.
Что такое «катастрофическое забвение»?
Катастрофическое забывание — это резкая потеря производительности старых задач, когда общие веса сети перезаписываются при изучении чего-то нового.
Что делает эластичная консолидация веса (EWC)?
EWC добавляет штраф (используя информацию Фишера), который закрепляет веса, считающиеся важными для старых задач, уменьшая забывчивость.
Как методы, основанные на воспроизведении, борются с забыванием?
Replay смешивает прошлые примеры в новые пакеты, поэтому градиенты отражают как старые, так и новые задачи, аппроксимируя исходные совместные данные.
How does Gradient Episodic Memory (GEM) constrain a gradient update while learning a new task?
GEM projects updates using episodic-memory losses so the local first-order approximation does not increase loss on previous-task examples. This constraint is based on a local linearization and does not guarantee actual loss will never rise after every finite step.
Почему наивная тонкая настройка на новую задачу приводит к забывчивости?
Обновления неограниченного градиента переписывают общие веса в сторону нового оптимального значения, отказываясь от областей, которые были хороши для предыдущих задач.
Продолжайте учиться
Связанные руководства
Другие руководства, выбранные по этой теме