Overfitting e Underfitting
Overfitting ocorre quando um modelo memoriza seus dados de treinamento e falha em novos exemplos; underfitting ocorre quando é muito simples capturar o padrão real.
Visão geral
Hitting the sweet spot between them is the central challenge of machine learning.
Mergulho profundo
Cada modelo se adapta a um conjunto de treinamento finito, mas o objetivo é ter um bom desempenho em dados invisíveis. Um modelo overfit trata ruídos e peculiaridades do conjunto de treinamento como se fossem sinais reais: ele pode pontuar 99% nos dados de treinamento, mas cair para 70% em um conjunto de teste. Um modelo subajustado é o problema oposto, muito rígido para capturar a estrutura subjacente, por isso tem um desempenho ruim tanto nos dados de treinamento quanto nos de teste. A lacuna entre o desempenho do treinamento e do teste é um sinal revelador. O subajuste mostra erros altos em todos os lugares (viés alto); o overfitting mostra um baixo erro de treinamento, mas um alto erro de teste (alta variância). A habilidade é reconhecer qual problema você tem, porque as soluções seguem direções opostas.
Visão Técnica
Overfitting e underfitting são as duas extremidades da compensação entre polarização e variância. Viés é erro proveniente de suposições simplificadas demais; a variância é o erro por ser muito sensível à amostra de treinamento específica. Um modelo linear minúsculo tem alto viés e baixa variância (underfits); um enorme modelo irrestrito tem baixo viés e alta variância (overfits). O erro total esperado se decompõe aproximadamente como polarização quadrada mais variância mais ruído irredutível. Os profissionais detectam o problema comparando a precisão do conjunto de treinamento com um conjunto de validação mantido, observando onde as duas curvas divergem.
Impacto Estratégico
Decisões mais claras
Ajuda a separar afirmações técnicas claras da linguagem de marketing.
Custo e orçamento
Você pode fazer perguntas melhores sobre implementação antes de gastar dinheiro ou tempo.
Equipe e fluxo de trabalho
Equipes com entendimento compartilhado tomam melhores decisões sobre produtos, políticas e aprendizado.
O futuro do overfitting e underfitting
Esses conceitos permanecem fundamentais, mas redes neurais muito grandes complicaram o quadro clássico. Os modelos modernos podem ter muito mais parâmetros do que pontos de dados, mas ainda assim generalizar bem, um regime surpreendente às vezes chamado de 'descida dupla', onde o erro do teste cai novamente após o pico de sobreajuste. A pesquisa se concentra cada vez mais no motivo da generalização dos modelos superparametrizados, no papel da regularização implícita nos otimizadores e na melhor detecção automatizada da mudança de distribuição. Espere diagnósticos mais ricos que sinalizam overfitting na produção à medida que os dados do mundo real se afastam dos dados de treinamento.
Implementação no mundo real
Um filtro de spam que sinaliza todos os e-mails contendo o nome de um remetente específico porque esse remetente enviou muitos spams nos dados de treinamento, ignorando totalmente os novos spammers (overfitting).
Um modelo de preço de casa que usa apenas a metragem quadrada e ignora a localização, os quartos e as condições, por isso falha muito em bairros caros (underfitting).
Um classificador de imagens médicas que aprende a detectar a marca d'água do scanner de um hospital em vez da doença, e falha em outros hospitais (ajuste excessivo a um recurso espúrio).
Traçando perda de treinamento versus perda de validação durante o treinamento e parando quando a perda de validação começa a aumentar enquanto a perda de treinamento continua caindo (detectando overfitting precocemente).
Riscos e guarda-corpos
Equipes diferentes podem usar o mesmo termo de maneira diferente, portanto, defina o escopo com antecedência.
Os benchmarks podem parecer fortes, enquanto o desempenho no mundo real é irregular.
Ignorar a qualidade dos dados e os planos de avaliação cria frequentemente resultados frágeis.
Roteiro de implementação
Comece com uma definição em linguagem simples do resultado que você precisa.
Escolha uma métrica de sucesso e uma condição de falha antes de testar.
Execute um pequeno piloto com dados representativos, não um conjunto de demonstração sofisticado.
Documente onde o Overfitting e o Underfitting ajudam e onde os métodos mais simples são melhores.
Continue explorando
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Overfitting and Underfitting quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Próximo guia
Retropropagação
Perguntas frequentes
What is Overfitting and Underfitting?
Overfitting ocorre quando um modelo memoriza seus dados de treinamento e falha em novos exemplos; underfitting ocorre quando é muito simples capturar o padrão real. Atingir o ponto ideal entre eles é o desafio central do aprendizado de máquina.
Um modelo pontua 98% em seus dados de treinamento, mas apenas 71% em um conjunto de testes retido. Qual é o problema mais provável?
Uma grande lacuna onde a precisão do treinamento é alta, mas a precisão do teste é muito menor é a assinatura clássica do overfitting: o modelo ajusta o ruído nos dados de treinamento em vez do padrão geral.
Qual cenário descreve melhor o underfitting?
Um modelo subajustado é muito simples para capturar o padrão subjacente, por isso tem um desempenho ruim em todos os lugares, inclusive nos dados nos quais foi treinado.
Na compensação viés-variância, a alta variância está mais associada a qual resultado?
Alta variância significa que o modelo muda muito dependendo dos dados exatos de treinamento que vê, o que leva ao overfitting. O alto viés é o oposto, o fim simplificado demais.
Um modelo de inadimplência de empréstimo usa apenas a idade do solicitante e ignora renda, dívida e histórico de crédito. Ele tem um desempenho ruim tanto no treinamento quanto em novos dados. O que você deve fazer?
O baixo desempenho em todos os lugares sinaliza subajuste. A solução é aumentar a capacidade do modelo, muitas vezes adicionando recursos informativos, para que possa representar o verdadeiro relacionamento.
Por que uma validação prolongada ou um conjunto de testes é essencial para detectar overfitting?
O overfitting é invisível se você observar apenas a precisão do treinamento. Avaliar com base em dados invisíveis expõe a lacuna entre a memorização e a generalização genuína.