СледваСледващо ръководство
The Explainability vs Accuracy Tradeoff
Основи
РЪКОВОДСТВО по основи
Компромис отклонение-вариация
Компромисът отклонение-вариация обяснява защо един модел може да се провали, ако е твърде прост или твърде сложен.
Чуйте това ръководствоAI-разказан · ~2 min
На тази страница2 минути четене
Преглед
It's the central tension behind underfitting versus overfitting, and getting it right determines whether your model generalizes to new data.
Дълбоко гмуркане
Всяка грешка в прогнозата, която модел прави, може да бъде разделена на три части: отклонение, дисперсия и нередуцируем шум. Пристрастието е грешка от погрешни предположения - модел, който е твърде прост, за да улови реалния модел, като приспособяване на права линия към крива (недостатъчно приспособяване). Дисперсията е грешка от чувствителността към конкретната тренировъчна извадка — модел, който е толкова гъвкав, че запаметява странности и шум (пренастройване). Уловката е, че понижаването на едното има тенденция да повдига другото. Полиномът с висока степен намалява пристрастията, но неговите прогнози се люлеят диво с всеки нов набор от данни. Целта не е да се елиминира нито една от двете грешки, а да се намери най-добрата точка, където тяхната сума – обща очаквана грешка при невидяни данни – е най-малка.
Внедряване в реалния свят
Избиране на дълбочината на дървото на решенията: плиткото дърво е недостатъчно (високо отклонение), много дълбокото дърво запаметява редове за обучение (висока вариация), така че настройвате дълбочината чрез грешка при валидиране.
Задаване на силата на регулиране (ламбда) в регресия с ръб или ласо, за да се замени малко увеличение на отклонението за голям спад в дисперсията и по-добра точност на теста.
Използване на произволни гори, които усредняват много декорелирани дървета с висока вариация, за да се намали общата вариация, без да се увеличава много отклонението.
Избиране на броя на съседите k в k-NN: k=1 има висока дисперсия и следва шума, докато много голямо k изглажда и добавя отклонение.
Бъдещето на компромиса между отклонение и дисперсия
Дълбокото обучение усложни класическата история. Изследователите наблюдават „двойно спускане“, при което грешката на теста първо се покачва, а след това отново спада, тъй като масово свръхпараметризираните мрежи надхвърлят прага на интерполация – привидно противопоставяйки се на U-кривата. Разбирането защо огромните модели обобщават въпреки почти нулевата грешка при обучение е активна изследователска граница, свързана с имплицитно регулиране от оптимизатори като SGD. Практиците все повече разчитат на емпирична настройка, закони за мащабиране и криви на валидиране, а не само на компромиса от учебника.
Прилагайки го на практика
Защо има значение
- По-ясни решения. Помага ви да отделите ясните технически твърдения от маркетинговия език.
- Разходи и бюджет. Можете да задавате въпроси за по-добро внедряване, преди да харчите пари или време.
- Екип и работен процес. Екипи със споделено разбиране вземат по-добри решения за продукти, политики и обучение.
Внимавайте за
- Различните екипи могат да използват един и същи термин по различен начин, така че дефинирайте обхвата рано.
- Бенчмарковете могат да изглеждат силни, докато производителността в реалния свят е неравномерна.
- Пренебрегването на качеството на данните и плановете за оценка често създава крехки резултати.
Следващи стъпки
- Започнете с дефиниция на обикновен език за резултата, от който се нуждаете.
- Изберете един показател за успех и едно условие за неуспех преди тестване.
- Изпълнете малък пилотен проект с представителни данни, а не изпипан демонстрационен набор.
- Документирайте къде Bias-Variance Tradeoff помага и къде по-простите методи са по-добри.
Продължете да изследвате
Безплатен бюлетин
Получавайте дневния AI бюлетин
Три проверени AI истории всяка делнична сутрин, написани на достъпен език. Безплатно завинаги, без реклами.
Един имейл всеки делничен ден. Отписване с едно кликване. Никога не продаваме и не споделяме вашия имейл адрес.
Тествайте себе си
Take the Bias-Variance Tradeoff quiz
Незабавна обратна връзка за всеки отговор и сертификат за споделяне с подлежащ на проверка идентификационен номер, след като преминете курс.
Подкрепете безплатното AI образование. AI Understanding е 501(c)(3) с нестопанска цел — без реклами, без платен достъп, никога. Направете дарение
Често задавани въпроси
What is Bias-Variance Tradeoff?
Компромисът отклонение-вариация обяснява защо един модел може да се провали, ако е твърде прост или твърде сложен. Това е централното напрежение зад недостатъчното оборудване спрямо прекомерното оборудване и правилното определяне на това дали вашият модел се обобщава към нови данни.
Кой сценарий е класически признак за висока дисперсия (прекомерно оборудване)?
Високата вариация се проявява като голяма разлика между отличното представяне на обучението и лошото представяне на теста - моделът е запомнил данните за обучението.
В класическата картина на отклонение, описана в ръководството, кой компромис може да придружава увеличената гъвкавост на модела?
В класическия акаунт по-голямата гъвкавост може да намали отклонението, като същевременно увеличи чувствителността към извадката. Ръководството също така описва двойното слизане, така че това не е универсален монотонен закон.
При декомпозиция на квадратна грешка отклонението на квадрат е 2, дисперсията е 3, а нередуцируемият шум е 1. Каква е общата очаквана грешка?
Предоставеният член на отклонение вече е повдигнат на квадрат. Добавете трите компонента: 2 + 3 + 1 = 6.
Защо осредняването на много декорелирани дървета може да помогне в примера със случайна гора?
Ръководството описва осредняването на дървета с висока вариация, декорелирани като начин за намаляване на дисперсията на ансамбъла.
Продължавай да учиш
Свързани ръководства
Още ръководства, избрани за тази тема