Basisprincipes GIDS

Overfitting en onderfitting

Overfitting is wanneer een model zijn trainingsgegevens onthoudt en faalt bij nieuwe voorbeelden; Onderfitting is wanneer het te eenvoudig is om het echte patroon vast te leggen.

2 min readLaatst bijgewerkt

Overzicht

Hitting the sweet spot between them is the central challenge of machine learning.

Diepe duik

Elk model is geschikt voor een eindige trainingsset, maar het doel is om goed te presteren op onzichtbare gegevens. Een overfitmodel behandelt ruis en eigenaardigheden van de trainingsset alsof het een echt signaal is: het kan op trainingsgegevens 99% scoren, maar op een testset terugvallen tot 70%. Een underfit-model is het tegenovergestelde probleem: het is te rigide om de onderliggende structuur vast te leggen en presteert dus slecht op zowel trainings- als testgegevens. De kloof tussen training en testprestaties is het veelbetekenende teken. Onderfitting blijkt overal uit een hoge fout (hoge bias); overfitting blijkt uit een lage trainingsfout maar een hoge testfout (hoge variantie). De vaardigheid is herkennen welk probleem je hebt, omdat de oplossingen in tegengestelde richtingen werken.

Technisch inzicht

Overfitting en underfitting zijn twee kanten van de afweging tussen bias en variantie. Vooringenomenheid is een fout die voortvloeit uit te eenvoudige aannames; variantie is een fout omdat deze te gevoelig is voor de specifieke trainingssteekproef. Een klein lineair model heeft een hoge bias en een lage variantie (underfits); een enorm onbeperkt model heeft een lage bias en een hoge variantie (overfits). De totale verwachte fout valt grofweg uiteen als bias-kwadraat plus variantie plus onherleidbare ruis. Beoefenaars ontdekken het probleem door de nauwkeurigheid van trainingssets te vergelijken met een bestaande validatieset, en kijken waar de twee curven uiteenlopen.

Strategische impact

Clearer decisions

Het helpt u duidelijke technische claims te scheiden van marketingtaal.

Cost and budget

U kunt betere implementatievragen stellen voordat u geld of tijd uitgeeft.

Team and workflow

Teams met gedeeld begrip nemen betere product-, beleids- en leerbeslissingen.

De toekomst van overfitting en onderfitting

Deze concepten blijven fundamenteel, maar zeer grote neurale netwerken hebben het klassieke beeld gecompliceerd. Moderne modellen kunnen veel meer parameters hebben dan datapunten en toch goed generaliseren, een verrassend regime dat ook wel 'dubbele afdaling' wordt genoemd, waarbij de testfout weer daalt na de overfittingspiek. Onderzoek richt zich steeds meer op de vraag waarom overgeparametriseerde modellen generaliseren, de rol van impliciete regularisatie in optimizers en een betere geautomatiseerde detectie van distributieverschuivingen. Verwacht rijkere diagnostiek die overfitting in de productie signaleert naarmate gegevens uit de echte wereld afwijken van trainingsgegevens.

Implementatie in de echte wereld

Een spamfilter dat elke e-mail markeert die de naam van een specifieke afzender bevat, omdat die afzender zwaar spamde in trainingsgegevens, waardoor nieuwe spammers volledig werden gemist (overfitting).

Een huizenprijsmodel dat alleen vierkante meters gebruikt en locatie, slaapkamers en staat negeert, waardoor het slecht scoort in dure buurten (onderaanpassing).

Een medische beeldclassificator die leert het scannerwatermerk van een ziekenhuis te detecteren in plaats van de ziekte, en faalt bij andere ziekenhuizen (overfitting tot een oneigenlijk kenmerk).

Trainingsverlies versus validatieverlies uitzetten tijdens de training en stoppen wanneer het validatieverlies begint te stijgen terwijl het trainingsverlies blijft dalen (overfitting vroegtijdig opvangen).

Risico's en vangrails

Verschillende teams kunnen dezelfde term verschillend gebruiken, dus definieer de reikwijdte vroeg.

Benchmarks kunnen er sterk uitzien, terwijl de prestaties in de echte wereld ongelijkmatig zijn.

Het negeren van datakwaliteit en evaluatieplannen zorgt vaak voor fragiele resultaten.

Implementatie routekaart

1

Begin met een definitie in duidelijke taal van het gewenste resultaat.

2

Kies één successtatistiek en één faalconditie voordat u gaat testen.

3

Voer een kleine pilot uit met representatieve gegevens, niet met een gepolijste demoset.

4

Documenteer waar overfitting en underfitting helpt en waar eenvoudigere methoden beter zijn.

Blijf verkennen

Free newsletter

Get the daily AI briefing

Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.

One email each weekday. Unsubscribe in one click. We never sell or share your address.

Test yourself

Take the Overfitting and Underfitting quiz

Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.

Start quiz

Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation

Next guide

Terugpropagatie

Frequently asked questions

What is Overfitting and Underfitting?

Overfitting is wanneer een model zijn trainingsgegevens onthoudt en faalt bij nieuwe voorbeelden; Onderfitting is wanneer het te eenvoudig is om het echte patroon vast te leggen. Het vinden van de goede plek daartussen is de centrale uitdaging van machine learning.

Een model scoort 98% op zijn trainingsgegevens, maar slechts 71% op een lange testset. Wat is het meest waarschijnlijke probleem?

Een grote kloof waarbij de trainingsnauwkeurigheid hoog is, maar de testnauwkeurigheid veel lager, is de klassieke signatuur van overfitting: de modelaanpassing past in de trainingsgegevens in plaats van in het algemene patroon.

Welk scenario beschrijft het beste onderfitting?

Een underfit-model is te eenvoudig om het onderliggende patroon vast te leggen, waardoor het overal slecht presteert, ook op de gegevens waarop het is getraind.

In de afweging tussen bias en variantie wordt hoge variantie het meest geassocieerd met welke uitkomst?

Hoge variantie betekent dat het model veel verandert, afhankelijk van de exacte trainingsgegevens die het ziet, wat leidt tot overfitting. Hoge bias is het tegenovergestelde, al te vereenvoudigde doel.

Een lening-default-model gebruikt alleen de leeftijd van een aanvrager en negeert inkomen, schulden en kredietgeschiedenis. Het presteert slecht op zowel training als nieuwe gegevens. Wat moet je doen?

Slechte prestaties wijzen overal op ondermaats presteren. De oplossing is om de modelcapaciteit te vergroten, vaak door informatieve functies toe te voegen, zodat deze de ware relatie kan weergeven.

Waarom is een langdurige validatie of testset essentieel voor het detecteren van overfitting?

Overfitting is onzichtbaar als je alleen naar de trainingsnauwkeurigheid kijkt. Evalueren op basis van onzichtbare gegevens legt de kloof bloot tussen memoriseren en echte generalisatie.