LegközelebbKövetkezĆ ĂștmutatĂł
The Explainability vs Accuracy Tradeoff
Alapok
Alapok ĂTMUTATĂ
A torzĂtĂĄs-variancia kompromisszum megmagyarĂĄzza, hogy egy modell miĂ©rt bukhat meg, ha tĂșl egyszerƱ vagy tĂșl bonyolult.
Hallgassa meg ezt az ĂștmutatĂłtAI-narrĂĄlt · ~2 min
Ez a központi feszĂŒltsĂ©g az alul- Ă©s a tĂșlillesztĂ©s mögött, Ă©s a helyes megoldĂĄs hatĂĄrozza meg, hogy a modell ĂĄltalĂĄnosĂt-e Ășj adatokra.
A modell ĂĄltal elkövetett minden elĆrejelzĂ©si hiba hĂĄrom rĂ©szre oszthatĂł: torzĂtĂĄs, szĂłrĂĄs Ă©s irreducibilis zaj. Az elfogultsĂĄg tĂ©ves feltevĂ©sekbĆl eredĆ tĂ©vedĂ©s â egy modell tĂșl egyszerƱ ahhoz, hogy megragadja a valĂłs mintĂĄt, pĂ©ldĂĄul egyenes vonal illesztĂ©se a görbĂ©re (alulillesztĂ©s). A szĂłrĂĄs az Ă©rzĂ©kenysĂ©g Ă©s az adott kĂ©pzĂ©si minta közötti hiba â ez a modell annyira rugalmas, hogy megjegyzi a furcsasĂĄgokat Ă©s a zajt (tĂșlillesztĂ©s). A bökkenĆ az, hogy az egyik leeresztĂ©se felemeli a mĂĄsikat. A nagyfokĂș polinom csökkenti a torzĂtĂĄst, de elĆrejelzĂ©sei minden Ășj adatkĂ©szlettel vadul ingadoznak. A cĂ©l nem az egyik hiba kikĂŒszöbölĂ©se, hanem az, hogy megtalĂĄljuk azt az Ă©des pontot, ahol azok összege â a nem lĂĄtott adatokon vĂĄrhatĂł összes hiba â a legkisebb.
A döntĂ©si fa mĂ©lysĂ©gĂ©nek kivĂĄlasztĂĄsa: egy sekĂ©ly fa alul illeszkedik (nagy torzĂtĂĄs), a nagyon mĂ©ly fa megjegyzi a kĂ©pzĂ©si sorokat (nagy variancia), Ăgy a mĂ©lysĂ©get Ă©rvĂ©nyesĂtĂ©si hibĂĄval hangolja be.
A regularizĂĄciĂłs erĆssĂ©g (lambda) beĂĄllĂtĂĄsa gerinc- vagy lasszĂł-regressziĂłban, hogy a torzĂtĂĄs kismĂ©rtĂ©kƱ növekedĂ©sĂ©t nagy szĂłrĂĄscsökkenĂ©sre Ă©s jobb tesztpontossĂĄgra vĂĄltsa.
VĂ©letlenszerƱ erdĆk hasznĂĄlata, amelyek sok dekorrelĂĄlt nagy varianciĂĄjĂș fĂĄt ĂĄtlagolnak a teljes variancia csökkentĂ©se Ă©rdekĂ©ben anĂ©lkĂŒl, hogy nagymĂ©rtĂ©kben növelnĂ©k a torzĂtĂĄst.
A k-NN-ben a k szomszĂ©dok szĂĄmĂĄnak kivĂĄlasztĂĄsa: k=1 nagy szĂłrĂĄssal rendelkezik Ă©s zajt követ, mĂg a nagyon nagy k tĂșlsimĂtja Ă©s torzĂtĂĄst ad.
A mĂ©ly tanulĂĄs bonyolĂtotta a klasszikus törtĂ©netet. A kutatĂłk âkettĆs sĂŒllyedĂ©stâ figyeltek meg, ahol a teszthiba elĆször emelkedik, majd ismĂ©t csökken, ahogy a tĂșlparamĂ©terezett hĂĄlĂłzatok tĂșlnĆnek az interpolĂĄciĂłs kĂŒszöbön â lĂĄtszĂłlag dacolva az U-görbĂ©vel. Annak megĂ©rtĂ©se, hogy a hatalmas modellek miĂ©rt ĂĄltalĂĄnosĂtanak a közel nulla kĂ©pzĂ©si hiba ellenĂ©re, aktĂv kutatĂĄsi hatĂĄrterĂŒlet, amely az optimalizĂĄlĂłk, pĂ©ldĂĄul az SGD ĂĄltali implicit regularizĂĄlĂĄsĂĄhoz kötĆdik. A gyakorlĂł szakemberek egyre inkĂĄbb az empirikus hangolĂĄsra, skĂĄlĂĄzĂĄsi törvĂ©nyekre Ă©s Ă©rvĂ©nyesĂtĂ©si görbĂ©kre hagyatkoznak, nem pedig a tankönyvi kompromisszumokra.
Ingyenes hĂrlevĂ©l
Minden hĂ©tköznap reggel hĂĄrom ellenĆrzött AI törtĂ©net, egyszerƱ angol nyelven. ĂrökkĂ© ingyen, hirdetĂ©sek nĂ©lkĂŒl.
Minden hĂ©tköznap egy e-mail. Egy kattintĂĄssal lemondhat. Soha nem Ă©rtĂ©kesĂtjĂŒk vagy osztjuk meg az Ăn cĂmĂ©t.
Teszteld magad
Azonnali visszajelzĂ©s minden vĂĄlaszra, Ă©s megoszthatĂł tanĂșsĂtvĂĄny egy ellenĆrizhetĆ azonosĂtĂłval, miutĂĄn sikeresen teljesĂt egy kurzust.
TĂĄmogassa az ingyenes AI oktatĂĄst. AI Understanding egy 501(c)(3) nonprofit â nincs hirdetĂ©s, nincs fizetĆfal, soha. Tegyen adomĂĄnyt
A torzĂtĂĄs-variancia kompromisszum megmagyarĂĄzza, hogy egy modell miĂ©rt bukhat meg, ha tĂșl egyszerƱ vagy tĂșl bonyolult. Ez a központi feszĂŒltsĂ©g az alul- Ă©s a tĂșlillesztĂ©s mögött, Ă©s a helyes megoldĂĄs hatĂĄrozza meg, hogy a modell ĂĄltalĂĄnosĂt-e Ășj adatokra.
A nagy szĂłrĂĄs a kivĂĄlĂł edzĂ©si teljesĂtmĂ©ny Ă©s a gyenge tesztteljesĂtmĂ©ny közötti nagy kĂŒlönbsĂ©gkĂ©nt jelenik meg â a modell megjegyezte az edzĂ©si adatokat.
In the classic account, greater flexibility can reduce bias while increasing sensitivity to the sample. The guide also describes double descent, so this is not a universal monotonic law.
The supplied bias term is already squared. Add the three components: 2 + 3 + 1 = 6.
The guide describes averaging high-variance, de-correlated trees as a way to reduce ensemble variance.
Tanulj tovĂĄbb
TovĂĄbbi ĂștmutatĂłk kĂ©szĂŒltek ehhez a tĂ©mĂĄhoz
LegközelebbKövetkezĆ ĂștmutatĂł
The Explainability vs Accuracy Tradeoff
Alapok