Tiếp theoHướng dẫn tiếp theo
Yếu tố ngoại lệ cục bộ
kỹ thuật
HƯỚNG DẪN KỸ THUẬT
Đa cộng tuyến xảy ra khi các yếu tố dự đoán trong hồi quy mang thông tin chồng chéo, gây khó khăn cho việc phân tách các đóng góp riêng lẻ của chúng.
Nghe hướng dẫn nàyAI thuật lại · ~3 min
Hệ số lạm phát phương sai (VIF) định lượng mức độ phương sai của hệ số bị tăng cao bởi mối quan hệ tuyến tính của nó với các yếu tố dự đoán khác, nhưng nó không quyết định biến nào thuộc về mô hình.
A regression coefficient is interpreted while holding other predictors fixed. If the data contain few cases where one predictor changes independently of another, that comparison is weakly supported. The fitted model may still predict the response well, yet small changes to the sample can produce large changes in individual coefficients, their signs, or standard errors. This is why collinearity often harms explanation more directly than prediction. For predictor j, regress it on the other predictors and calculate the coefficient of determination R-squared. Its variance inflation factor is VIF_j = 1/(1 - R-squared_j). If the other predictors explain most of predictor j, the denominator is small and its VIF is large. In a simple hypothetical calculation, if R-squared_j is 0.8, then VIF is 1/(1 - 0.8) = 5. Under the linear-model setup, this means the variance of that coefficient is five times what it would be under an orthogonal predictor comparison with comparable residual variance; its standard error is multiplied by the square root of five. VIF is a diagnostic, not a universal pass/fail threshold. A large value identifies overlap but cannot tell whether it is scientifically sensible, whether to remove a variable, or whether the model is invalid. Perfect linear dependence makes coefficients non-identifiable in the ordinary design matrix, while near dependence leaves estimates possible but unstable. Inspect coefficient uncertainty, predictor definitions, the design matrix and the study purpose. Potential responses include collecting observations that separate predictor effects, combining redundant measures when justified, choosing one predictor based on prior knowledge, or using regularization such as ridge regression when prediction is the goal. Removing a variable solely to lower VIF can create omitted-variable bias or change the question. Centering can help with nonessential correlation introduced by polynomial terms or interactions, but it does not solve all substantive overlap. Refit and evaluate the chosen model, and explain what its coefficients can and cannot support.
Một mô hình nhà ở giả định bao gồm cả diện tích sàn tính bằng feet vuông và diện tích sàn tính bằng mét vuông. Bởi vì cái này là sự thay đổi tỷ lệ cố định của cái kia, nên ma trận thiết kế là dư thừa; giữ lại một đơn vị tránh trùng lặp thông tin.
Một nhà phân tích ước tính mô hình thời gian di chuyển với khoảng cách và mức sử dụng nhiên liệu ước tính, những mô hình này cùng dịch chuyển mạnh mẽ trên các tuyến đường được lấy mẫu. VIF cao báo hiệu sự phân bổ không ổn định, ngay cả khi các dự đoán vẫn hữu ích trong các lộ trình tương tự.
Một nhà nghiên cứu sức khỏe ghi lại tuổi và số năm kể từ khi sinh ra một cách riêng biệt. Thông tin được chia sẻ của họ làm cho việc giải thích các hệ số riêng biệt trở nên yếu kém; lý luận miền có thể xác định liệu một thước đo hay một độ tương phản khác trả lời câu hỏi nghiên cứu.
Một nhóm so sánh VIF trước và sau khi căn giữa một yếu tố dự đoán được sử dụng trong mô hình đa thức. Việc định tâm có thể làm giảm sự cộng tuyến không cần thiết giữa các số hạng thô và số hạng bình phương, trong khi vẫn đảm bảo nhu cầu kiểm tra việc diễn giải và thiết kế của mô hình.
Báo cáo hồi quy có thể làm cho việc đánh giá sự cộng tuyến trở nên dễ dàng hơn bằng cách hiển thị các định nghĩa dự đoán, các khoảng hệ số, chẩn đoán VIF và hiệu suất dự đoán cùng nhau. Các phân tích trong tương lai nên phân biệt xem mục tiêu là phân bổ, dự báo ổn định hay cả hai, vì các biện pháp khắc phục là khác nhau. Khi có thể thu thập dữ liệu mới, việc cố ý thu thập các trường hợp có các yếu tố dự đoán khác nhau một cách độc lập có thể cải thiện khả năng diễn giải. Khi việc thu thập dữ liệu không thể thay đổi, một mô hình chính quy hoặc một biện pháp kết hợp minh bạch có thể phù hợp với những đánh đổi được ghi lại. Lặp lại đánh giá khi tập hợp tính năng hoặc tổng thể thay đổi; mối quan hệ dự đoán của ngày hôm qua không cần phải mô tả một mẫu mới.
Bản tin miễn phí
Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.
Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.
Tự kiểm tra
Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.
Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp
Đa cộng tuyến xảy ra khi các yếu tố dự đoán trong hồi quy mang thông tin chồng chéo, gây khó khăn cho việc phân tách các đóng góp riêng lẻ của chúng. Hệ số lạm phát phương sai (VIF) định lượng mức độ phương sai của hệ số bị tăng cao bởi mối quan hệ tuyến tính của nó với các yếu tố dự đoán khác, nhưng nó không quyết định biến nào thuộc về mô hình.
Một cột là bội số không đổi của cột kia, vì vậy mô hình không thể xác định riêng cả hai hệ số.
Cộng tuyến có thể làm cho các ước lượng hệ số riêng biệt không ổn định ngay cả khi các dự đoán trong chế độ được quan sát là hữu ích.
VIF chẩn đoán sự chồng chéo trong các cột thiết kế được bao gồm; bản thân nó không quy định một biện pháp khắc phục hoặc đánh giá dự đoán.
Lạm phát phương sai thêm 5 tương ứng với lạm phát sai số chuẩn theo căn bậc hai của 5.
Đặc điểm này có thể quan trọng về mặt khoa học và việc loại bỏ nó có thể thay đổi cách giải thích hoặc bỏ sót thông tin liên quan.
Tiếp tục học hỏi
Đã chọn thêm hướng dẫn cho chủ đề này
Tiếp theoHướng dẫn tiếp theo
Yếu tố ngoại lệ cục bộ
kỹ thuật