СледваСледващо ръководство
AI при ранно предупреждение за земетресение
Приложения
РЪКОВОДСТВО по основи
Early stopping uses a validation metric to decide when to stop a training run.
Чуйте това ръководствоAI-разказан · ~2 min
A patience rule can tolerate temporary plateaus or noise, while the best checkpoint is retained; its effect on generalization depends on the metric, data, and training setup.
Training loss can continue to decrease while validation performance levels off or worsens, which may indicate overfitting. An early-stopping rule monitors a selected validation metric and stops after a configured number of checks without a qualifying improvement. The patience setting allows temporary plateaus; min_delta can specify the minimum change that counts as improvement. Implementations differ in when they check and whether they automatically restore the best weights, so verify the callback behavior and save or restore the desired checkpoint. Validation curves often—but not invariably—show an initial improvement followed by a plateau or decline. Early stopping can act as regularization by limiting optimization time, but it does not guarantee lower test error; validation data should be kept separate from final test evaluation.
Обратно извикване на Keras EarlyStopping с patience=10 наблюдение val_loss и restore_best_weights=True на класификатор на изображения
Спиране на подсилено с градиент дърво (XGBoost early_stopping_rounds) при валидиране на AUC плато, за да се избегне добавянето на безполезни дървета
Спиране на фината настройка на BERT модел на настроение, след като проверката F1 спре да нараства, спестявайки GPU часове
Състезател на Kaggle, използващ валидиращо сгъване за ранно спиране и избиране на контролната точка с най-ниска загуба на лог
Ранното спиране остава по подразбиране в почти всеки конвейер за обучение, но ролята му се променя. С много големи модели, обучени за една епоха върху масивни корпуси, класическото спиране, базирано на епоха, се заменя с наблюдение на символични бюджети и графици за скорост на обучение. Очаквайте по-тясна интеграция с автоматизирано търсене на хиперпараметри, многометрични критерии и планировчици, съобразени с бюджета, които решават кога продължаващото обучение вече не оправдава своите изчислителни и въглеродни разходи.
Безплатен бюлетин
Три проверени AI истории всяка делнична сутрин, написани на достъпен език. Безплатно завинаги, без реклами.
Един имейл всеки делничен ден. Отписване с едно кликване. Никога не продаваме и не споделяме вашия имейл адрес.
Тествайте себе си
Незабавна обратна връзка за всеки отговор и сертификат за споделяне с подлежащ на проверка идентификационен номер, след като преминете курс.
Подкрепете безплатното AI образование. AI Understanding е 501(c)(3) с нестопанска цел — без реклами, без платен достъп, никога. Направете дарение
Early stopping uses a validation metric to decide when to stop a training run. A patience rule can tolerate temporary plateaus or noise, while the best checkpoint is retained; its effect on generalization depends on the metric, data, and training setup.
Ранното спиране наблюдава задържан показател за валидиране, тъй като загубата на обучение продължава да намалява дори когато моделът се пренастройва.
Търпението е броят на позволените епохи без подобрение, преди обучението да бъде спряно, изглаждайки шумните криви на валидиране.
Вие възстановявате контролната точка от епохата с най-добър резултат за валидиране, а не от последната епоха, която може вече да е превишила стойността.
Stopping based on validation behavior can limit continued fitting, but it is not identical to adding an L2 penalty and does not guarantee improved test performance.
min_delta задава колко голямо трябва да бъде подобрението, за да нулира брояча на търпението, предотвратявайки малките колебания да изглеждат като реален напредък.
Продължавай да учиш
Още ръководства, избрани за тази тема
СледваСледващо ръководство
AI при ранно предупреждение за земетресение
Приложения