HƯỚNG DẪN cơ bản

Trang bị quá mức và trang bị thiếu

Overfitting describes fitting training-specific patterns that generalize poorly, while underfitting describes failing to capture useful structure even in the training data.

Nghe hướng dẫn nàyAI thuật lại · ~3 min

Trên trang nàyĐọc trong 3 phút
  1. Tổng quan
  2. Lặn sâu
  3. Triển khai trong thế giới thực
  4. Tương lai của trang bị quá mức và thiếu trang bị
  5. Đưa nó vào thực tế
  6. Tiếp tục khám phá
  7. Câu hỏi thường gặp

Tổng quan

These are fitting diagnoses to investigate, not conclusions guaranteed by model size or one accuracy number.

Lặn sâu

A trained model should be evaluated beyond the examples used to fit it. Under comparable training and held-out conditions, high training performance with much weaker held-out performance can indicate overfitting to training-specific patterns. Poor performance on both sets can be consistent with underfitting, although failed optimization, unsuitable data, and other causes also need consideration. The labels therefore guide diagnosis rather than substitute for it. Changing relevant features or model capacity can be worth testing when the representation is too limited, while regularization and data choices can affect how flexibly a model fits. Bias and variance describe another view of prediction error: bias concerns systematic deviation of the estimated predictor, and variance concerns sensitivity to the sampled training data. Small models are not automatically biased, and large models are not automatically high-variance in every task. The data-generating relationship and fitting procedure matter. Validation and final testing also have different roles. Validation data can help choose a model, hyperparameters, or stopping point. Repeatedly using the final test set for those choices can make the reported final estimate optimistic, so final testing should remain separate when possible. Modern research includes double-descent curves where test error rises near an interpolation regime and falls again as capacity increases. Such observations do not make that curve universal. Assess the actual task, information available, data splits, and fitting procedure rather than infer reliability solely from parameter count.

Triển khai trong thế giới thực

Bộ lọc thư rác gắn cờ mọi email có chứa tên người gửi cụ thể vì người gửi đó tình cờ gửi thư rác nhiều trong dữ liệu đào tạo, thiếu hoàn toàn những người gửi thư rác mới (trang bị quá mức).

Một mô hình giá nhà chỉ sử dụng diện tích và bỏ qua vị trí, phòng ngủ và tình trạng nên rất thiếu sót ở những khu dân cư đắt tiền (không phù hợp).

Một bộ phân loại hình ảnh y tế học cách phát hiện hình mờ trên máy quét của bệnh viện thay vì căn bệnh và không thành công ở các bệnh viện khác (trang bị quá mức cho một tính năng giả).

Vẽ biểu đồ tổn thất đào tạo so với tổn thất xác thực trong quá trình đào tạo và dừng khi tổn thất xác thực bắt đầu tăng trong khi tổn thất đào tạo tiếp tục giảm (bắt sớm quá mức).

Tương lai của trang bị quá mức và thiếu trang bị

Research can examine fitting behavior across architectures, optimization methods, sample sizes, and data conditions. Results should identify the setup in which a curve or diagnostic was observed. Larger models and richer features can be candidates for evaluation, while they do not guarantee improved generalization. Reports should distinguish validation used for selection from final testing and explain the available information, so an apparent improvement can be assessed alongside sampling uncertainty and possible distribution changes.

Đưa nó vào thực tế

Tại sao nó quan trọng

  • Quyết định rõ ràng hơn. Nó giúp bạn tách biệt các tuyên bố kỹ thuật rõ ràng khỏi ngôn ngữ tiếp thị.
  • Chi phí và ngân sách. Bạn có thể đặt các câu hỏi triển khai tốt hơn trước khi chi tiền hoặc thời gian.
  • Nhóm và quy trình làm việc. Các nhóm có sự hiểu biết chung sẽ đưa ra các quyết định về sản phẩm, chính sách và học tập tốt hơn.

coi chừng

  • Các nhóm khác nhau có thể sử dụng cùng một thuật ngữ một cách khác nhau, vì vậy hãy sớm xác định phạm vi.
  • Điểm chuẩn có thể trông mạnh mẽ trong khi hiệu suất trong thế giới thực không đồng đều.
  • Việc bỏ qua các kế hoạch đánh giá và chất lượng dữ liệu thường tạo ra những kết quả mong manh.

Các bước tiếp theo

  1. Bắt đầu với một định nghĩa đơn giản về kết quả bạn cần.
  2. Chọn một số liệu thành công và một điều kiện thất bại trước khi thử nghiệm.
  3. Chạy một thử nghiệm nhỏ với dữ liệu đại diện chứ không phải một bản demo bóng bẩy.
  4. Ghi lại những chỗ mà Overfitting và Underfitting hữu ích và những chỗ mà các phương pháp đơn giản hơn sẽ tốt hơn.

Tiếp tục khám phá

Bản tin miễn phí

Nhận bản tóm tắt AI hàng ngày

Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.

Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.

Tự kiểm tra

Take the Overfitting and Underfitting quiz

Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.

Bắt đầu bài kiểm tra

Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp

Câu hỏi thường gặp

What is Overfitting and Underfitting?

Overfitting describes fitting training-specific patterns that generalize poorly, while underfitting describes failing to capture useful structure even in the training data. These are fitting diagnoses to investigate, not conclusions guaranteed by model size or one accuracy number.

Under comparable train and held-out conditions, an illustrative model scores 98% on training and 71% on held-out data. Which fitting concern is consistent with that gap?

The gap is consistent with overfitting, while a complete diagnosis should also check evaluation and data conditions.

Which performance pattern can be consistent with a model underfitting useful structure?

Underfitting concerns inadequate fitting of useful structure, but the pattern should be investigated alongside other possible causes.

In a bias-variance analysis, what does high estimator variance concern?

Estimator variance concerns changes across sampled training sets, not a universal outcome of parameter count.

A house-price model has too limited a representation of relevant inputs and fits poorly. Which candidate change should be evaluated?

Testing a better representation can address an underfitting hypothesis; it is not a guaranteed improvement.

Tại sao bộ kiểm tra hoặc xác thực được giữ lại lại cần thiết để phát hiện trang bị quá mức?

Trang bị quá mức là vô hình nếu bạn chỉ nhìn vào độ chính xác trong quá trình luyện tập. Đánh giá dựa trên dữ liệu chưa được nhìn thấy sẽ làm lộ ra khoảng cách giữa khả năng ghi nhớ và khả năng khái quát thực sự.