Basisprincipes GIDS

Overfitting en onderfitting

Overfitting describes fitting training-specific patterns that generalize poorly, while underfitting describes failing to capture useful structure even in the training data.

Luister naar deze gidsAI-verteld · ~3 min

Op deze pagina3 minuten lezen
  1. Overzicht
  2. Diepe duik
  3. Implementatie in de echte wereld
  4. De toekomst van overfitting en onderfitting
  5. Het in de praktijk brengen
  6. Blijf verkennen
  7. Veelgestelde vragen

Overzicht

These are fitting diagnoses to investigate, not conclusions guaranteed by model size or one accuracy number.

Diepe duik

A trained model should be evaluated beyond the examples used to fit it. Under comparable training and held-out conditions, high training performance with much weaker held-out performance can indicate overfitting to training-specific patterns. Poor performance on both sets can be consistent with underfitting, although failed optimization, unsuitable data, and other causes also need consideration. The labels therefore guide diagnosis rather than substitute for it. Changing relevant features or model capacity can be worth testing when the representation is too limited, while regularization and data choices can affect how flexibly a model fits. Bias and variance describe another view of prediction error: bias concerns systematic deviation of the estimated predictor, and variance concerns sensitivity to the sampled training data. Small models are not automatically biased, and large models are not automatically high-variance in every task. The data-generating relationship and fitting procedure matter. Validation and final testing also have different roles. Validation data can help choose a model, hyperparameters, or stopping point. Repeatedly using the final test set for those choices can make the reported final estimate optimistic, so final testing should remain separate when possible. Modern research includes double-descent curves where test error rises near an interpolation regime and falls again as capacity increases. Such observations do not make that curve universal. Assess the actual task, information available, data splits, and fitting procedure rather than infer reliability solely from parameter count.

Implementatie in de echte wereld

Een spamfilter dat elke e-mail markeert die de naam van een specifieke afzender bevat, omdat die afzender zwaar spamde in trainingsgegevens, waardoor nieuwe spammers volledig werden gemist (overfitting).

Een huizenprijsmodel dat alleen vierkante meters gebruikt en locatie, slaapkamers en staat negeert, waardoor het slecht scoort in dure buurten (onderaanpassing).

Een medische beeldclassificator die leert het scannerwatermerk van een ziekenhuis te detecteren in plaats van de ziekte, en faalt bij andere ziekenhuizen (overfitting tot een oneigenlijk kenmerk).

Trainingsverlies versus validatieverlies uitzetten tijdens de training en stoppen wanneer het validatieverlies begint te stijgen terwijl het trainingsverlies blijft dalen (overfitting vroegtijdig opvangen).

De toekomst van overfitting en onderfitting

Research can examine fitting behavior across architectures, optimization methods, sample sizes, and data conditions. Results should identify the setup in which a curve or diagnostic was observed. Larger models and richer features can be candidates for evaluation, while they do not guarantee improved generalization. Reports should distinguish validation used for selection from final testing and explain the available information, so an apparent improvement can be assessed alongside sampling uncertainty and possible distribution changes.

Het in de praktijk brengen

Waarom het ertoe doet

  • Duidelijkere beslissingen. Het helpt u duidelijke technische claims te scheiden van marketingtaal.
  • Kosten en budget. U kunt betere implementatievragen stellen voordat u geld of tijd uitgeeft.
  • Team en workflow. Teams met gedeeld begrip nemen betere product-, beleids- en leerbeslissingen.

Pas op voor

  • Verschillende teams kunnen dezelfde term verschillend gebruiken, dus definieer de reikwijdte vroeg.
  • Benchmarks kunnen er sterk uitzien, terwijl de prestaties in de echte wereld ongelijkmatig zijn.
  • Het negeren van datakwaliteit en evaluatieplannen zorgt vaak voor fragiele resultaten.

Volgende stappen

  1. Begin met een definitie in duidelijke taal van het gewenste resultaat.
  2. Kies één successtatistiek en één faalconditie voordat u gaat testen.
  3. Voer een kleine pilot uit met representatieve gegevens, niet met een gepolijste demoset.
  4. Documenteer waar overfitting en underfitting helpt en waar eenvoudigere methoden beter zijn.

Blijf verkennen

Gratis nieuwsbrief

Ontvang de dagelijkse AI-briefing

Drie verifieerde AI-verhalen elke weekdagmorgen, geschreven in eenvoudig Engels. Gratis voor altijd, geen advertenties.

Eén e-mail elke weekdag. Afmelden met één klik. We verkopen of delen je adres nooit.

Test jezelf

Take the Overfitting and Underfitting quiz

Directe feedback op elke antwoord, en een deelbare certificaat met een verifieerbare ID zodra je een cursus hebt afgerond.

Quiz starten

Ondersteun gratis AI-onderwijs. AI Understanding is een 501(c)(3) non-profit — geen advertenties, geen betaalmuur, nooit. Doe een donatie

Veelgestelde vragen

Wat is overfitting en onderfitting?

Overfitting describes fitting training-specific patterns that generalize poorly, while underfitting describes failing to capture useful structure even in the training data. These are fitting diagnoses to investigate, not conclusions guaranteed by model size or one accuracy number.

Under comparable train and held-out conditions, an illustrative model scores 98% on training and 71% on held-out data. Which fitting concern is consistent with that gap?

The gap is consistent with overfitting, while a complete diagnosis should also check evaluation and data conditions.

Which performance pattern can be consistent with a model underfitting useful structure?

Underfitting concerns inadequate fitting of useful structure, but the pattern should be investigated alongside other possible causes.

In a bias-variance analysis, what does high estimator variance concern?

Estimator variance concerns changes across sampled training sets, not a universal outcome of parameter count.

A house-price model has too limited a representation of relevant inputs and fits poorly. Which candidate change should be evaluated?

Testing a better representation can address an underfitting hypothesis; it is not a guaranteed improvement.

Waarom is een langdurige validatie of testset essentieel voor het detecteren van overfitting?

Overfitting is onzichtbaar als je alleen naar de trainingsnauwkeurigheid kijkt. Evalueren op basis van onzichtbare gegevens legt de kloof bloot tussen memoriseren en echte generalisatie.