Trang bị quá mức và trang bị thiếu
Quá khớp là khi một mô hình ghi nhớ dữ liệu huấn luyện của nó và thất bại ở các mẫu mới; trang bị không đầy đủ là khi việc nắm bắt được mẫu thực tế quá đơn giản.
Tổng quan
Hitting the sweet spot between them is the central challenge of machine learning.
Lặn sâu
Mọi mô hình đều phù hợp với một tập huấn luyện hữu hạn, nhưng mục tiêu là hoạt động tốt trên dữ liệu chưa nhìn thấy. Một mô hình overfit xử lý nhiễu và các điểm bất thường của tập huấn luyện như thể chúng là tín hiệu thực: nó có thể đạt 99% trên dữ liệu huấn luyện nhưng lại giảm xuống còn 70% trên tập kiểm tra. Một mô hình không phù hợp lại là vấn đề ngược lại, quá cứng nhắc để nắm bắt được cấu trúc cơ bản, do đó nó hoạt động kém trên cả dữ liệu huấn luyện và kiểm tra. Khoảng cách giữa hiệu suất đào tạo và kiểm tra là dấu hiệu nhận biết. Việc trang bị không đầy đủ cho thấy lỗi cao ở mọi nơi (độ lệch cao); trang bị quá mức cho thấy lỗi huấn luyện thấp nhưng lỗi kiểm tra cao (phương sai cao). Kỹ năng này là nhận biết bạn đang gặp phải vấn đề gì vì các giải pháp khắc phục sẽ đi theo hướng ngược lại.
Hiểu biết kỹ thuật
Trang bị quá mức và trang bị thiếu là hai đầu của sự đánh đổi giữa độ lệch và phương sai. Thành kiến là sai sót do các giả định được đơn giản hóa quá mức; phương sai là lỗi do quá nhạy cảm với mẫu đào tạo cụ thể. Một mô hình tuyến tính cực nhỏ có độ lệch cao và phương sai thấp (không phù hợp); một mô hình không bị ràng buộc lớn có độ lệch thấp và phương sai cao (phù hợp quá mức). Tổng sai số dự kiến sẽ phân rã thành bình phương thiên vị cộng với phương sai cộng với nhiễu không thể giảm được. Người thực hành phát hiện vấn đề bằng cách so sánh độ chính xác của tập huấn luyện với tập hợp xác thực được tổ chức, xem nơi hai đường cong phân kỳ.
Tác động chiến lược
Quyết định rõ ràng hơn
Nó giúp bạn tách biệt các tuyên bố kỹ thuật rõ ràng khỏi ngôn ngữ tiếp thị.
Chi phí và ngân sách
Bạn có thể đặt các câu hỏi triển khai tốt hơn trước khi chi tiền hoặc thời gian.
Nhóm và quy trình làm việc
Các nhóm có sự hiểu biết chung sẽ đưa ra các quyết định về sản phẩm, chính sách và học tập tốt hơn.
Tương lai của trang bị quá mức và thiếu trang bị
Những khái niệm này vẫn mang tính nền tảng, nhưng mạng lưới thần kinh rất lớn đã làm phức tạp bức tranh cổ điển. Các mô hình hiện đại có thể có nhiều tham số hơn các điểm dữ liệu nhưng vẫn có khả năng khái quát hóa tốt, một chế độ đáng ngạc nhiên đôi khi được gọi là 'giảm gốc kép' trong đó lỗi kiểm tra lại giảm xuống sau khi đạt mức quá khớp. Nghiên cứu ngày càng tập trung vào lý do tại sao các mô hình được tham số hóa quá mức lại khái quát hóa, vai trò của việc chính quy hóa ngầm trong các trình tối ưu hóa và khả năng phát hiện dịch chuyển phân phối tự động tốt hơn. Mong đợi các chẩn đoán phong phú hơn để gắn cờ quá mức trong quá trình sản xuất khi dữ liệu trong thế giới thực trôi xa khỏi dữ liệu đào tạo.
Triển khai trong thế giới thực
Bộ lọc thư rác gắn cờ mọi email có chứa tên người gửi cụ thể vì người gửi đó tình cờ gửi thư rác nhiều trong dữ liệu đào tạo, thiếu hoàn toàn những người gửi thư rác mới (trang bị quá mức).
Một mô hình giá nhà chỉ sử dụng diện tích và bỏ qua vị trí, phòng ngủ và tình trạng nên rất thiếu sót ở những khu dân cư đắt tiền (không phù hợp).
Một bộ phân loại hình ảnh y tế học cách phát hiện hình mờ trên máy quét của bệnh viện thay vì căn bệnh và không thành công ở các bệnh viện khác (trang bị quá mức cho một tính năng giả).
Vẽ biểu đồ tổn thất đào tạo so với tổn thất xác thực trong quá trình đào tạo và dừng khi tổn thất xác thực bắt đầu tăng trong khi tổn thất đào tạo tiếp tục giảm (bắt sớm quá mức).
Rủi ro & lan can
Các nhóm khác nhau có thể sử dụng cùng một thuật ngữ một cách khác nhau, vì vậy hãy sớm xác định phạm vi.
Điểm chuẩn có thể trông mạnh mẽ trong khi hiệu suất trong thế giới thực không đồng đều.
Việc bỏ qua các kế hoạch đánh giá và chất lượng dữ liệu thường tạo ra những kết quả mong manh.
Lộ trình thực hiện
Bắt đầu với một định nghĩa đơn giản về kết quả bạn cần.
Chọn một số liệu thành công và một điều kiện thất bại trước khi thử nghiệm.
Chạy một thử nghiệm nhỏ với dữ liệu đại diện chứ không phải một bản demo bóng bẩy.
Ghi lại những chỗ mà Overfitting và Underfitting hữu ích và những chỗ mà các phương pháp đơn giản hơn sẽ tốt hơn.
Tiếp tục khám phá
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Overfitting and Underfitting quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Hướng dẫn tiếp theo
Lan truyền ngược
Câu hỏi thường gặp
What is Overfitting and Underfitting?
Quá khớp là khi một mô hình ghi nhớ dữ liệu huấn luyện của nó và thất bại ở các mẫu mới; trang bị không đầy đủ là khi việc nắm bắt được mẫu thực tế quá đơn giản. Đạt được điểm phù hợp giữa chúng là thách thức trọng tâm của học máy.
Một mô hình đạt 98% trên dữ liệu huấn luyện nhưng chỉ đạt 71% trên tập kiểm tra được tổ chức. Vấn đề có thể xảy ra nhất là gì?
Khoảng cách lớn trong đó độ chính xác huấn luyện cao nhưng độ chính xác kiểm tra thấp hơn nhiều là dấu hiệu cổ điển của việc trang bị quá mức: mô hình phù hợp với nhiễu trong dữ liệu huấn luyện hơn là mẫu chung.
Kịch bản nào mô tả đúng nhất về việc thiếu trang bị?
Một mô hình không phù hợp quá đơn giản để nắm bắt được mẫu cơ bản, do đó, mô hình này hoạt động kém ở mọi nơi, kể cả trên dữ liệu mà nó được đào tạo.
Trong sự cân bằng độ lệch-phương sai, phương sai cao có liên quan nhiều nhất đến kết quả nào?
Phương sai cao có nghĩa là mô hình thay đổi nhiều tùy thuộc vào dữ liệu huấn luyện chính xác mà nó nhìn thấy, dẫn đến tình trạng trang bị quá mức. Độ lệch cao là kết thúc ngược lại, đơn giản hóa quá mức.
Mô hình vỡ nợ cho vay chỉ sử dụng tuổi của người nộp đơn và bỏ qua thu nhập, nợ và lịch sử tín dụng. Nó hoạt động kém trên cả dữ liệu đào tạo và dữ liệu mới. Bạn nên làm gì?
Hiệu suất kém ở khắp mọi nơi báo hiệu không phù hợp. Cách khắc phục là tăng dung lượng mô hình, thường bằng cách thêm các tính năng thông tin để nó có thể thể hiện mối quan hệ thực sự.
Tại sao bộ kiểm tra hoặc xác thực được giữ lại lại cần thiết để phát hiện trang bị quá mức?
Trang bị quá mức là vô hình nếu bạn chỉ nhìn vào độ chính xác trong quá trình luyện tập. Đánh giá dựa trên dữ liệu chưa được nhìn thấy sẽ làm lộ ra khoảng cách giữa khả năng ghi nhớ và khả năng khái quát thực sự.