Túl- és alulfitting
A túlillesztés az, amikor egy modell megjegyzi a betanítási adatait, és az új példákon kudarcot vall; alulillesztésről van szó, ha túl egyszerű a valódi minta rögzítése.
Áttekintés
Hitting the sweet spot between them is the central challenge of machine learning.
Mély merülés
Minden modell illeszkedik egy véges képzési halmazhoz, de a cél az, hogy jól teljesítsen nem látott adatokon. Az overfit modell úgy kezeli a zajt és az edzési készlet furcsaságait, mintha valódi jelek lennének: 99%-ot érhet el az edzési adatokon, de a tesztkészleten 70%-ra csökkenhet. Az alulfitt modell az ellenkező probléma, túl merev ahhoz, hogy megragadja a mögöttes struktúrát, ezért gyengén teljesít mind a képzési, mind a tesztadatokon. Az edzés és a tesztteljesítmény közötti szakadék az árulkodó jel. Az alulillesztés mindenhol nagy hibaként jelenik meg (nagy torzítás); a túlillesztés alacsony edzési hibaként, de magas teszthibaként jelenik meg (nagy variancia). A készség abban rejlik, hogy felismerje, melyik problémája van, mert a javítások ellentétes irányba húznak.
Technikai betekintés
A túl- és alulillesztés a torzítás-variancia kompromisszum két vége. A torzítás túlságosan leegyszerűsített feltételezésekből eredő hiba; A variancia az a hiba, hogy túl érzékeny az adott képzési mintára. Egy apró lineáris modellnek nagy a torzítása és alacsony a variancia (alul illeszkedés); egy hatalmas, korlátlan modellnek alacsony a torzítása és nagy a variancia (túlillesztések). A teljes várható hiba nagyjából a torzítás négyzetének plusz variancia plusz redukálhatatlan zaj formájában bomlik fel. A gyakorló szakemberek úgy észlelik a problémát, hogy összehasonlítják a képzési készlet pontosságát egy kitartott érvényesítő készlettel, és figyelik, hol tér el a két görbe.
Stratégiai hatás
Tisztább döntések
Segít elkülöníteni a világos technikai állításokat a marketing nyelvezettől.
Költség és költségvetés
Feltehet jobb végrehajtási kérdéseket, mielőtt pénzt vagy időt költene.
Csapat és munkafolyamat
A közös tudással rendelkező csapatok jobb döntéseket hoznak a termékekkel, irányelvekkel és tanulással kapcsolatban.
A túl- és alulfitting jövője
Ezek a fogalmak továbbra is alapvetőek, de a nagyon nagy neurális hálózatok bonyolították a klasszikus képet. A modern modellek sokkal több paraméterrel rendelkezhetnek, mint az adatpontok, mégis jól általánosíthatók, ez a meglepő rendszer, amelyet néha „kettős süllyedésnek” neveznek, ahol a teszthiba ismét csökken a túlillesztési csúcs után. A kutatás egyre inkább arra összpontosít, hogy miért általánosítanak a túlparaméterezett modellek, az implicit regularizáció szerepére az optimalizálókban és az eloszláseltolódás jobb automatizált észlelésére. Gazdagabb diagnosztikára számíthat, amely jelzi a túlillesztést a termelésben, mivel a valós adatok eltávolodnak a képzési adatoktól.
Valós megvalósítás
Egy levélszemétszűrő, amely minden e-mailt megjelöl, amely egy adott feladó nevét tartalmazza, mivel az adott feladó a képzési adatok során nagymértékben levélszemetet küld, és teljesen hiányzott az új spamküldőkről (túlillesztés).
Lakásárú modell, amely csak négyzetmétereket használ, figyelmen kívül hagyva a helyet, a hálószobákat és az állapotot, ezért nagyon hiányzik a drága városrészekből (alul felszerelt).
Egy orvosi képosztályozó, amely megtanulja felismerni egy kórház szkenner vízjelét a betegség helyett, és más kórházakban meghibásodik (túlillesztés egy hamis funkcióhoz).
Az edzési veszteség és az érvényesítési veszteség ábrázolása az edzés közben, és a leállítás, amikor az érvényesítési veszteség növekedni kezd, miközben az edzési veszteség folyamatosan csökken (a túlillesztés korai elkapása).
Kockázatok és védőkorlátok
A különböző csapatok eltérően használhatják ugyanazt a kifejezést, ezért korán határozza meg a hatókört.
A benchmarkok erősnek tűnhetnek, miközben a valós teljesítmény egyenetlen.
Az adatminőségi és értékelési tervek figyelmen kívül hagyása gyakran törékeny eredményekhez vezet.
Végrehajtási ütemterv
Kezdje a kívánt eredmény egyszerű nyelvű meghatározásával.
A tesztelés előtt válasszon egy sikermutatót és egy hibafeltételt.
Futtasson egy kis pilotot reprezentatív adatokkal, ne egy csiszolt demókészlettel.
Dokumentálja, hol segít a túl- és alulfitting, és hol jobbak az egyszerűbb módszerek.
Folytassa a felfedezést
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Overfitting and Underfitting quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Következő útmutató
Visszaszaporítás
Gyakran ismételt kérdések
What is Overfitting and Underfitting?
A túlillesztés az, amikor egy modell megjegyzi a betanítási adatait, és az új példákon kudarcot vall; alulillesztésről van szó, ha túl egyszerű a valódi minta rögzítése. A gépi tanulás központi kihívása, hogy megtaláljuk a köztük lévő édes pontot.
Egy modell 98%-ot ér el edzési adatai alapján, de csak 71%-ot egy kinyújtott tesztsorozaton. Mi a legvalószínűbb probléma?
Egy nagy különbség, ahol az edzési pontosság magas, de a tesztpontosság sokkal alacsonyabb, a túlillesztés klasszikus jele: a modell illeszkedése zajt a képzési adatokban, nem pedig az általános mintát.
Melyik forgatókönyv írja le legjobban az alulteljesítést?
Az alul illeszkedő modell túl egyszerű ahhoz, hogy rögzítse az alapul szolgáló mintát, ezért mindenhol gyengén teljesít, beleértve azokon az adatokon is, amelyekre betanították.
A torzítás-variancia kompromisszumban melyik eredményhez kapcsolódik leginkább a nagy szórás?
A nagy szórás azt jelenti, hogy a modell a pontos edzési adatoktól függően sokat változik, ami túlillesztéshez vezet. A nagy elfogultság az ellenkező, túlságosan leegyszerűsített cél.
A hitel-nemteljesítési modell csak a kérelmező életkorát használja, és figyelmen kívül hagyja a jövedelmet, az adósságot és a hiteltörténetet. Gyengén teljesít mind az edzésen, mind az új adatokon. Mit kell tenned?
A gyenge teljesítmény mindenhol alulilleszkedést jelez. A javítás célja a modell kapacitásának növelése, gyakran informatív funkciók hozzáadásával, hogy a valódi kapcsolatot tükrözze.
Miért elengedhetetlen a kitartott érvényesítés vagy tesztkészlet a túlillesztés észleléséhez?
A túlszerelés láthatatlan, ha csak az edzés pontosságát nézzük. A nem látott adatok alapján történő értékelés felfedi a memorizálás és a valódi általánosítás közötti szakadékot.