Cây quyết định và rừng ngẫu nhiên
Cây quyết định đưa ra dự đoán bằng cách đặt một loạt câu hỏi có/không đơn giản, giống như một sơ đồ.
Tổng quan
A random forest combines hundreds of such trees and lets them vote, which is far more accurate and robust.
Lặn sâu
Cây quyết định phân chia dữ liệu theo từng bước: tại mỗi nút, nó chọn tính năng và ngưỡng phân tách kết quả tốt nhất, sau đó phân nhánh cho đến khi đạt được dự đoán ở một lá. Cây được ưa chuộng vì dễ đọc; bạn có thể theo dõi chính xác lý do tại sao một quyết định được đưa ra. Điểm yếu của chúng là trang bị quá mức, trong đó cây sâu ghi nhớ tiếng ồn và dự đoán kém về dữ liệu mới. Rừng ngẫu nhiên khắc phục điều này bằng cách đào tạo nhiều cây trên các tập hợp con dữ liệu ngẫu nhiên (một kỹ thuật gọi là đóng bao) và các tập hợp con đặc trưng ngẫu nhiên ở mỗi lần phân chia. Các cây mắc những lỗi khác nhau, do đó việc tính trung bình số phiếu bầu của chúng sẽ loại bỏ các lỗi riêng lẻ. Kết quả là một trong những thuật toán ít điều chỉnh, đáng tin cậy nhất dành cho dữ liệu dạng bảng, được sử dụng rộng rãi trước khi tiếp cận với lĩnh vực học sâu.
Hiểu biết kỹ thuật
Mỗi phần tách được chọn để tối đa hóa 'độ tinh khiết'. Cây phân loại giảm thiểu tạp chất Gini hoặc entropy; cây hồi quy giảm thiểu phương sai (lỗi bình phương). Rừng ngẫu nhiên bổ sung hai nguồn ngẫu nhiên: lấy mẫu bootstrap (mỗi cây nhìn thấy một mẫu ngẫu nhiên được rút ra để thay thế) và lựa chọn tính năng ngẫu nhiên ở mỗi lần phân chia. Điều này làm mất đi mối tương quan giữa các cây nên dự đoán trung bình của chúng có phương sai thấp hơn nhiều so với bất kỳ cây đơn lẻ nào mà không làm tăng nhiều sai lệch. Các mẫu sẵn có, còn sót lại trong bootstrap của mỗi cây, đưa ra ước tính xác thực tích hợp.
Tác động chiến lược
Quyết định rõ ràng hơn
Nó giúp bạn tách biệt các tuyên bố kỹ thuật rõ ràng khỏi ngôn ngữ tiếp thị.
Chi phí và ngân sách
Bạn có thể đặt các câu hỏi triển khai tốt hơn trước khi chi tiền hoặc thời gian.
Nhóm và quy trình làm việc
Các nhóm có sự hiểu biết chung sẽ đưa ra các quyết định về sản phẩm, chính sách và học tập tốt hơn.
Tương lai của cây quyết định và rừng ngẫu nhiên
Các khu rừng ngẫu nhiên đơn giản vẫn là đường cơ sở nhưng tiêu điểm đã chuyển sang các cây được tăng cường độ dốc như XGBoost, LightGBM và CatBoost, xây dựng cây một cách tuần tự để sửa các lỗi trước đó và thường là các cuộc cạnh tranh dữ liệu dạng bảng hàng đầu. Các nhóm cây này tiếp tục hoạt động tốt hơn các mạng thần kinh trên nhiều bộ dữ liệu có cấu trúc. Mong đợi công việc liên tục về tốc độ, đào tạo GPU và đặc biệt là các công cụ có khả năng giải thích như SHAP, vì khả năng diễn giải là lý do chính khiến các ngành được quản lý tiếp tục chọn mô hình dựa trên cây thay vì học sâu hộp đen.
Triển khai trong thế giới thực
Chấm điểm tín dụng và phê duyệt khoản vay, trong đó các ngân hàng đánh giá cao lộ trình đưa ra quyết định rõ ràng và có thể kiểm toán được.
Dự đoán rủi ro y tế đánh dấu các yếu tố bệnh nhân đưa đến chẩn đoán hoặc cảnh báo.
Dự đoán tỷ lệ rời bỏ khách hàng từ tài khoản dạng bảng và dữ liệu sử dụng.
Phân tích tầm quan trọng của tính năng để xếp hạng các biến quan trọng nhất trong tập dữ liệu.
Rủi ro & lan can
Các nhóm khác nhau có thể sử dụng cùng một thuật ngữ một cách khác nhau, vì vậy hãy sớm xác định phạm vi.
Điểm chuẩn có thể trông mạnh mẽ trong khi hiệu suất trong thế giới thực không đồng đều.
Việc bỏ qua các kế hoạch đánh giá và chất lượng dữ liệu thường tạo ra những kết quả mong manh.
Lộ trình thực hiện
Bắt đầu với một định nghĩa đơn giản về kết quả bạn cần.
Chọn một số liệu thành công và một điều kiện thất bại trước khi thử nghiệm.
Chạy một thử nghiệm nhỏ với dữ liệu đại diện chứ không phải một bản demo bóng bẩy.
Tài liệu về nơi Cây quyết định và Rừng ngẫu nhiên giúp ích và nơi nào các phương pháp đơn giản hơn sẽ tốt hơn.
Tiếp tục khám phá
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Decision Trees and Random Forests quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Hướng dẫn tiếp theo
Ra quyết định AI
Câu hỏi thường gặp
What is Decision Trees and Random Forests?
Cây quyết định đưa ra dự đoán bằng cách đặt một loạt câu hỏi có/không đơn giản, giống như một sơ đồ. Một khu rừng ngẫu nhiên kết hợp hàng trăm cây như vậy và cho phép chúng bỏ phiếu, điều này chính xác và mạnh mẽ hơn nhiều.
Cây quyết định đưa ra dự đoán như thế nào?
Cây quyết định định tuyến đầu vào thông qua các câu hỏi phân nhánh về các tính năng của nó cho đến khi nó đến lá đưa ra dự đoán.
Điểm yếu chính của cây quyết định sâu và đơn lẻ là gì?
Cây sâu có thể khớp quá chặt với dữ liệu huấn luyện, thu được tiếng ồn và khái quát kém cho các ví dụ mới.
Làm thế nào để một khu rừng ngẫu nhiên cải thiện trên một cây?
Bằng cách huấn luyện nhiều cây không liên quan và tính trung bình hoặc bỏ phiếu, một khu rừng sẽ loại bỏ các lỗi của từng cây và giảm việc trang bị quá mức.
'Bagging' đề cập đến điều gì trong các khu rừng ngẫu nhiên?
Đóng bao (tổng hợp bootstrap) cung cấp cho mỗi cây một mẫu ngẫu nhiên được rút ra để thay thế, do đó các cây khác nhau và mức trung bình của chúng ổn định hơn.
Cây phân loại thường sử dụng số liệu nào để chọn phần tách?
Cây phân loại chọn các phần tách giúp giảm hầu hết tạp chất Gini hoặc entropy, thước đo mức độ trộn lẫn của các lớp tại một nút.