ДалееСледующее руководство
Учимся ранжироваться в поиске товаров
Технический
Техническое РУКОВОДСТВО
Обучение с учетом затрат делает последствия различных исходов прогнозирования частью целевой функции обучения модели или правила принятия решений.
Прослушайте это руководствоОзвучено ИИ · ~3 min
Это имеет значение, когда ложноположительные, ложноотрицательные результаты или специфичные для класса ошибки имеют неравные последствия — проблема, которую дисбаланс классов сам по себе не определяет.
Many classification objectives optimize a loss that treats examples uniformly or uses a default loss, which may not reflect the real consequences of different errors. Cost-sensitive learning makes those consequences explicit. Cost-sensitive learning replaces that assumption with an explicit cost matrix that specifies the penalty for each type of error: false positives, false negatives, and sometimes different costs for different classes entirely. This matters most when classes are imbalanced or when errors have asymmetric real-world consequences. There are several common techniques. Class weighting adjusts the loss function during training so that misclassifying a minority or high-stakes class contributes more to the total loss, which most modern libraries, including scikit-learn and XGBoost, support directly through a class_weight or scale_pos_weight parameter. Resampling approaches, such as oversampling the minority class or undersampling the majority class, alter which examples appear and how often during training; their effect depends on the data and does not automatically encode a particular cost matrix. MetaCost and similar wrapper methods relabel training examples based on expected cost before fitting a standard classifier. A common misconception is that cost-sensitive learning is the same as handling class imbalance; the two overlap but are distinct: a balanced dataset can still need cost-sensitive treatment if the errors have unequal consequences, and an imbalanced dataset does not always need it if both error types are equally acceptable. Getting the cost matrix right requires domain input, often from business or clinical stakeholders, since the model can only optimize for whatever costs it is given, and a poorly specified cost matrix will produce a model confidently optimized for the wrong objective.
Модель мошенничества с кредитными картами назначает гораздо более высокий штраф за пропуск реального мошенничества (ложноотрицательный результат), чем за отправку легитимной покупки на проверку (ложноположительный результат), поскольку необнаруженное мошенничество обходится гораздо дороже, чем звонок в службу поддержки.
Классификатор скрининга рака обучается с использованием матрицы затрат, которая наказывает за пропуск обнаружения опухоли в десять раз сильнее, чем за ложную тревогу, поскольку пропущенный диагноз может угрожать жизни, в то время как ложная тревога приводит к повторному анализу.
Фильтр спама в электронной почте намеренно настроен так, чтобы допускать прохождение большего количества спама, а не рисковать блокировкой важного легитимного сообщения, что отражает матрицу затрат, где ложноположительные результаты хуже ложноотрицательных для этого приложения.
Модель дефолта по кредитам использует веса классов, пропорциональные финансовым потерям от неоплаченного кредита по сравнению с альтернативными издержками отказа хорошему заявителю, а не оптимизацию только по общей точности классификации.
Подходы с учетом затрат, вероятно, станут более автоматизированными, поскольку инструменты все чаще позволяют специалистам указывать бизнес-затраты напрямую, а не вычислять веса классов вручную, а конвейеры AutoML добавляют встроенные входы матрицы затрат. Дальнейший рост в сфере мошенничества, здравоохранения и кредитных приложений будет продолжать внедрять этот метод в большее количество производственных систем, хотя это зависит от готовности и способности заинтересованных сторон точно указывать затраты, что остается практическим узким місцем, а не техническим. Затраты следует пересматривать при изменении политики, распространенности, емкости или последствий ошибки. Учитывающая затраты цель по-прежнему не может исправить плохие метки, ненадежные оценки вероятности или неполное описание того, кто несет каждые последствия.
Бесплатная рассылка
Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.
Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.
Проверьте себя
Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.
Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование
Обучение с учетом затрат делает последствия различных исходов прогнозирования частью целевой функции обучения модели или правила принятия решений. Это имеет значение, когда ложноположительные, ложноотрицательные результаты или специфичные для класса ошибки имеют неравные последствия — проблема, которую дисбаланс классов сам по себе не определяет.
Стандартное обучение неявно рассматривает все ошибки как одинаково дорогостоящие; обучение с учетом затрат заменяет это явной матрицей затрат для различных типов ошибок.
В примере поясняется, что финансовые затраты на необнаруженное мошенничество перевешивают затраты службы поддержки на расследование ложной тревоги.
В руководстве прямо указано на это заблуждение: обучение с учетом затрат и дисбаланс классов пересекаются, но не являются одним и тем же понятием.
В руководстве названы class_weight и scale_pos_weight в качестве стандартных параметров для применения взвешивания классов в этих библиотеках.
MetaCost описывается как метод-обертка, который перемаркировывает обучающие данные в соответствии с ожидаемыми затратами перед подгонкой стандартной модели.
Продолжайте учиться
Другие руководства, выбранные по этой теме
ДалееСледующее руководство
Учимся ранжироваться в поиске товаров
Технический