Iduro ni kutukutu
Iduro ni kutukutu jẹ ilana isọdọtun ti o dẹkun ikẹkọ awoṣe ni akoko iṣẹ ṣiṣe lori data afọwọsi ti o waye duro ni ilọsiwaju.
Akopọ
It prevents wasted compute and overfitting in one simple rule.
Jin Dive
Nigbati o ba ṣe ikẹkọ nẹtiwọọki nkankikan kan, aṣiṣe ṣeto ikẹkọ ntọju akoko sisọ silẹ lẹhin akoko, ṣugbọn ni aaye kan awoṣe bẹrẹ ni iranti ariwo kuku ju awọn ilana ikẹkọ lọ. Afọwọsi aṣiṣe wọnyi a U-apẹrẹ: o ṣubu, deba kan kere, ki o si gòke bi overfitting tosaaju sinu. Tete idekun Agogo a afọwọsi metric (pipadanu, išedede, F1) lẹhin ti kọọkan epoch ati ki o ma duro nigbati o kuna lati mu fun a ṣeto nọmba ti epochs, ti a npe ni sũru. Ni pataki, o tọju awọn iwuwo lati akoko ti o dara julọ, kii ṣe kẹhin. O jẹ ọkan ninu awọn ọna aiwọn ti isọdọtun nitori ko nilo afikun awọn ofin ijiya ati pe o ni opin ni imunadoko bi awọn iwuwo ṣe jinna lati ibẹrẹ wọn, iru ni ẹmi si isọdọtun L2.
Imọ-imọ-ẹrọ
Imuse awọn orin ti o dara ju afọwọsi Dimegilio ati ki o kan counter. Kọọkan epoch, ti o ba ti metric mu dara ju a min_delta ala, o fi kan checkpoint ati ki o tun awọn counter; bibẹkọ ti o afikun o. Nigbati counter ba de opin sũru, ikẹkọ da duro ati pe aaye ayẹwo to dara julọ jẹ atunṣe. Sùúrù ṣòwò líle lòdì sí ìfọwọ́sowọ́n ariwo fún àkókò ìdánilẹ́kọ̀ọ́ àpapọ̀, àti pé ó sábà máa ń ṣàtúnṣe lẹ́gbẹ̀ẹ́ ìwọ̀n kíkọ́ àti ìwọ̀n ìpele.
Ipa Ilana
Awọn ipinnu diẹ sii
O ṣe iranlọwọ fun ọ lati ya sọtọ awọn iṣeduro imọ-ẹrọ lati ede tita.
Iye owo ati isuna
O le beere awọn ibeere imuse to dara julọ ṣaaju lilo owo tabi akoko.
Ẹgbẹ ati ṣiṣan iṣẹ
Awọn ẹgbẹ pẹlu oye pinpin ṣe ọja to dara julọ, eto imulo, ati awọn ipinnu ikẹkọ.
Ojo iwaju ti Iduro kutukutu
Iduro ni kutukutu jẹ aiyipada ni o fẹrẹ to gbogbo opo gigun ti epo ikẹkọ, ṣugbọn ipa rẹ n yipada. Pẹlu awọn awoṣe ti o tobi pupọ ti a ṣe ikẹkọ fun akoko kan kan lori ile-iṣẹ nla, idaduro orisun-ipilẹ Ayebaye ti rọpo nipasẹ ibojuwo lori awọn isunawo ami ati awọn iṣeto oṣuwọn-ẹkọ. Reti isọdọkan wiwọ pẹlu wiwa hyperparameter adaṣe adaṣe, awọn ibeere metiriki pupọ, ati awọn oluṣeto eto isuna ti o pinnu nigbati ikẹkọ tẹsiwaju ko ṣe idalare iṣiro rẹ ati idiyele erogba.
Real-World imuse
Ipepada Keras EarlyStopping pẹlu sũru=10 mimojuto val_loss ati restore_best_weights=Otitọ lori olupilẹṣẹ aworan
Idaduro igi ti o ni ilọsiwaju (XGBoost early_stopping_rounds) nigbati afọwọsi AUC Plateaus lati yago fun fifi awọn igi ti ko wulo kun
Idaduro atunṣe itanran ti awoṣe itara BERT ni kete ti afọwọsi F1 duro dide, fifipamọ awọn wakati GPU
Oludije Kaggle kan ni lilo agbo afọwọsi si idaduro ni kutukutu ki o yan aaye ayẹwo pẹlu isonu-pipadanu ti o kere julọ
Awọn ewu & Awọn ọna iṣọ
Awọn ẹgbẹ oriṣiriṣi le lo ọrọ kanna ni oriṣiriṣi, nitorinaa ṣalaye iwọn ni kutukutu.
Awọn aṣepari le wo lagbara lakoko ti iṣẹ-aye gidi ko ṣe deede.
Aibikita didara data ati awọn ero igbelewọn nigbagbogbo ṣẹda awọn abajade ẹlẹgẹ.
Ilana Ilana imuse
Bẹrẹ pẹlu itumọ-ede itele ti abajade ti o nilo.
Mu metiriki aṣeyọri kan ati ipo ikuna kan ṣaaju idanwo.
Ṣiṣe awakọ kekere kan pẹlu data aṣoju, kii ṣe eto demo didan.
Iwe-ipamọ nibiti Iduro kutukutu ṣe iranlọwọ ati nibiti awọn ọna ti o rọrun dara julọ.
Tesiwaju Ṣiṣawari
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Early Stopping quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Itọsọna atẹle
AI ni Ikilọ Ibẹrẹ Ilẹ-ilẹ
Awọn ibeere ti a beere nigbagbogbo
What is Early Stopping?
Iduro ni kutukutu jẹ ilana isọdọtun ti o dẹkun ikẹkọ awoṣe ni akoko iṣẹ ṣiṣe lori data afọwọsi ti o waye duro ni ilọsiwaju. O ṣe idilọwọ awọn iṣiro ti o padanu ati fifẹ ni ofin ti o rọrun kan.
Ifihan agbara wo ni idaduro ni kutukutu ṣe atẹle akọkọ lati pinnu igba lati da duro?
Iduro ni kutukutu n wo metiriki afọwọsi ti o waye, nitori pipadanu ikẹkọ n tẹsiwaju lati ja bo paapaa bi awoṣe ṣe bori.
Kini iṣakoso paramita 'suuru'?
Sùúrù jẹ nọmba awọn akoko ti a gba laaye laisi ilọsiwaju ṣaaju ki ikẹkọ ti da duro, didan lori awọn iha idaniloju ariwo.
Lẹhin awọn okunfa idaduro ni kutukutu, awọn iwọn wo ni o yẹ ki o tọju nigbagbogbo?
O mu aaye ayẹwo pada lati igba akoko pẹlu Dimegilio afọwọsi ti o dara julọ, kii ṣe akoko ti o kẹhin, eyiti o le ti bori tẹlẹ.
Kini idi ti idaduro ni kutukutu ṣe ka ọna ṣiṣe deede?
Iduro ni kutukutu ntọju awọn iwuwo isunmọ si ibẹrẹ wọn, eyiti o ni ipa deede ti o jọra si ibajẹ iwuwo.
Kí ni ‘min_delta’ àbáwọlé sábà máa ń tọ́ka sí?
min_delta ṣeto bii ilọsiwaju yẹ ki o tobi to lati tun counter suuru to, idilọwọ awọn iyipada kekere lati dabi ilọsiwaju gidi.