ДалееСледующее руководство
Компромисс объяснимости и точности
Основы
РУКОВОДСТВО ПО ОСНОВАМ
Компромисс смещения и дисперсии
Компромисс смещения и дисперсии объясняет, почему модель может потерпеть неудачу, будучи слишком простой или слишком сложной.
Прослушайте это руководствоОзвучено ИИ · ~2 min
На этой странице2 минуты чтения
Обзор
It's the central tension behind underfitting versus overfitting, and getting it right determines whether your model generalizes to new data.
Глубокое погружение
Каждую ошибку прогнозирования, допускаемую моделью, можно разделить на три части: смещение, дисперсию и неуменьшаемый шум. Смещение — это ошибка, вызванная неправильными предположениями: модель слишком проста, чтобы уловить реальную закономерность, например, подгонка прямой линии к кривой (недостаточная подгонка). Дисперсия — это ошибка, вызванная чувствительностью к конкретной обучающей выборке — модели настолько гибкой, что она запоминает особенности и шум (переобучение). Загвоздка в том, что понижение одного приводит к повышению другого. Полином высокой степени снижает смещение, но его прогнозы сильно колеблются с каждым новым набором данных. Цель состоит не в том, чтобы устранить какую-либо ошибку, а в том, чтобы найти золотую середину, где их сумма — общая ожидаемая ошибка для невидимых данных — наименьшая.
Реальная реализация
Выбор глубины дерева решений: мелкое дерево не подходит (высокое смещение), очень глубокое дерево запоминает обучающие строки (высокая дисперсия), поэтому вы настраиваете глубину с помощью ошибки проверки.
Установка силы регуляризации (лямбда) в гребневой или лассо-регрессии, чтобы обменять небольшое увеличение смещения на большое снижение дисперсии и лучшую точность теста.
Использование случайных лесов, которые усредняют множество декоррелированных деревьев с высокой дисперсией, чтобы уменьшить общую дисперсию без значительного увеличения систематической ошибки.
Выбор числа соседей k в k-NN: k=1 имеет высокую дисперсию и следует за шумом, тогда как очень большое k сглаживает и добавляет смещение.
Будущее компромисса между смещением и дисперсией
Глубокое обучение усложнило классическую историю. Исследователи наблюдали «двойной спуск», когда ошибка теста сначала возрастает, а затем снова падает, когда сильно параметризованные сети выходят за порог интерполяции — по-видимому, игнорируя U-образную кривую. Понимание того, почему огромные модели обобщают, несмотря на почти нулевую ошибку обучения, является активным направлением исследований, связанным с неявной регуляризацией от оптимизаторов, таких как SGD. Практики все чаще полагаются на эмпирическую настройку, законы масштабирования и кривые проверки, а не только на компромиссы из учебников.
Применение на практике
Почему это важно
- Более четкие решения. Это поможет вам отделить четкие технические заявления от маркетингового языка.
- Стоимость и бюджет. Вы можете задать более эффективные вопросы по реализации, прежде чем тратить деньги или время.
- Команда и рабочий процесс. Команды с общим пониманием принимают более эффективные решения по продуктам, политике и обучению.
Следите за
- Разные команды могут использовать один и тот же термин по-разному, поэтому заранее определите масштаб.
- Тесты могут выглядеть сильными, в то время как реальная производительность неравномерна.
- Игнорирование качества данных и планов оценки часто приводит к нестабильным результатам.
Следующие шаги
- Начните с простого определения желаемого результата.
- Перед тестированием выберите один показатель успеха и одно условие отказа.
- Запустите небольшой пилотный проект с репрезентативными данными, а не отточенный демонстрационный набор.
- Задокументируйте, где помогает компромисс между смещением и дисперсией и где более простые методы лучше.
Продолжайте исследовать
Бесплатная рассылка
Получайте ежедневный AI-обзор
Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.
Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.
Проверьте себя
Take the Bias-Variance Tradeoff quiz
Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.
Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование
Часто задаваемые вопросы
What is Bias-Variance Tradeoff?
Компромисс смещения и дисперсии объясняет, почему модель может потерпеть неудачу, будучи слишком простой или слишком сложной. Это центральное противоречие между недостаточным и переоснащением, и правильность этого определения определяет, будет ли ваша модель обобщаться на новые данные.
Какой сценарий является классическим признаком высокой дисперсии (переоснащения)?
Высокая дисперсия проявляется как большой разрыв между отличными результатами обучения и плохими результатами тестов — модель запомнила данные обучения.
In the classic bias-variance picture described in the guide, which tradeoff can accompany increased model flexibility?
In the classic account, greater flexibility can reduce bias while increasing sensitivity to the sample. The guide also describes double descent, so this is not a universal monotonic law.
In a squared-error decomposition, squared bias is 2, variance is 3, and irreducible noise is 1. What is the total expected error?
The supplied bias term is already squared. Add the three components: 2 + 3 + 1 = 6.
Why can averaging many de-correlated trees help in the random-forest example?
The guide describes averaging high-variance, de-correlated trees as a way to reduce ensemble variance.
Продолжайте учиться
Связанные руководства
Другие руководства, выбранные по этой теме