HƯỚNG DẪN xã hội

Correlation vs Causation

Sự tương quan là một mối liên hệ thống kê giữa các biến; nguyên nhân hỏi cách một kết quả sẽ thay đổi dưới một can thiệp vào một trong số chúng.

Nghe hướng dẫn nàyAI thuật lại · ~3 min

Trên trang nàyĐọc trong 3 phút
  1. Tổng quan
  2. Lặn sâu
  3. Triển khai trong thế giới thực
  4. Tương lai của Tương quan và Nhân quả
  5. Đưa nó vào thực tế
  6. Tiếp tục khám phá
  7. Câu hỏi thường gặp

Tổng quan

Sự phân biệt này rất quan trọng vì các mô hình dự đoán đơn thuần không xác định được hiệu quả của việc thay đổi một chính sách, phương pháp điều trị hay hành vi.

Lặn sâu

Correlation is a statistical relationship: as one variable changes, another tends to change too, measured for instance by a correlation coefficient. Causation means a change in one variable actually brings about the change in the other. The core reason correlation does not imply causation is that an observed statistical association can arise through several non-causal paths. A confounding variable can independently influence both measured variables, creating an association between them even though neither directly causes the other, as with ice cream sales and drownings both driven by summer heat. Reverse causation is a second path: assuming variable A causes B when in fact B causes A, such as assuming police presence causes crime rather than crime causing more hiring. A third path is coincidence or spurious correlation, where two unrelated trends move together purely by chance, especially likely when many variables are tested against each other, a problem statisticians call data dredging. This distinction is central to how machine learning is used responsibly. Predictive models, including large-scale AI systems trained on observational data, are fundamentally correlation detectors: they learn statistical patterns in their training data without inherently understanding cause and effect. When such patterns are used to justify interventions, such as denying loans, targeting policing, or setting insurance prices based on correlated but non-causal factors, the result can encode and amplify existing biases in the data rather than identifying true causal drivers. Establishing genuine causation typically requires controlled experiments or specific statistical techniques designed to account for confounding, rather than pattern-matching on observational data alone.

Triển khai trong thế giới thực

Doanh số bán kem và số ca tử vong do đuối nước đều tăng vào mùa hè, có sự tương quan không phải vì kem gây ra đuối nước mà vì một yếu tố nhiễu là thời tiết nắng nóng, thúc đẩy cả hoạt động bơi lội lẫn việc mua kem.

Các thành phố có nhiều cảnh sát hơn đôi khi ghi nhận tỷ lệ tội phạm cao hơn, điều này có thể phản ánh nhân quả ngược (tội phạm nhiều hơn dẫn đến việc tuyển dụng nhiều cảnh sát hơn) chứ không phải sự hiện diện của cảnh sát gây ra tội phạm.

Một mô hình học máy được huấn luyện trên dữ liệu bệnh viện có thể phát hiện ra rằng những bệnh nhân nhận được một phương pháp điều trị nhất định có kết quả tồi tệ hơn, trong khi trên thực tế, những bệnh nhân ốm nặng hơn có nhiều khả năng nhận được phương pháp điều trị đó hơn từ đầu, được gọi là hiện tượng nhiễu do chỉ định.

Các quốc gia có nhiều người đạt giải Nobel hơn có xu hướng tiêu thụ sô-cô-la bình quân đầu người cao hơn, một mối tương quan giả được trích dẫn rộng rãi do sự giàu có của quốc gia ảnh hưởng đến cả hai biến chứ không phải sô-cô-la thúc đẩy thành tích.

Tương lai của Tương quan và Nhân quả

Các kỹ thuật suy luận nhân quả ngày càng được tích hợp vào các quy trình học máy, đặc biệt là trong kinh tế học, y tế và đánh giá chính sách, nơi các quyết định đòi hỏi nhiều hơn là độ chính xác dự đoán. Nhận thức ngày càng tăng về sự thiên vị thuật toán đã thúc đẩy các chuyên gia xem xét kỹ lưỡng xem các mối tương quan của mô hình có phản ánh các động lực nhân quả thực sự hay mã hóa các yếu tố nhiễu như sự phân biệt đối xử trong lịch sử. Dù vậy, hầu hết các hệ thống AI quy mô lớn vẫn mang tính tương quan về cơ bản, và việc xây dựng lý luận nhân quả đáng tin cậy ở quy mô lớn vẫn là một thách thức kỹ thuật còn bỏ ngỏ. Sự phân biệt giữa tương quan và nhân quả sẽ tiếp tục là một mốc kiểm tra tiêu chuẩn trong việc đánh giá bất kỳ hệ thống quyết định nào do AI điều khiển, đặc biệt là trong các lĩnh vực có rủi ro cao như cho vay và tuyển dụng.

Đưa nó vào thực tế

Tại sao nó quan trọng

  • Rủi ro và an toàn. Những tác hại thảm khốc và thường ngày của AI đều phụ thuộc vào việc ai hiểu được rủi ro và ai có thể hành động.
  • Quyết định rõ ràng hơn. Kiến thức công cộng và chuyên môn định hình liệu chính sách an toàn mạnh mẽ có khả thi về mặt chính trị hay không.
  • Phá vỡ sự thổi phồng. Những lời giải thích rõ ràng làm giảm sự thu hút bởi sự cường điệu, PR trong phòng thí nghiệm và sân khấu đạo đức mơ hồ.

coi chừng

  • Xử lý rủi ro hiện hữu như khoa học viễn tưởng trong khi khả năng lại phức tạp.
  • Nhầm lẫn giữa an toàn sản phẩm bề mặt với sự liên kết dưới quyền tự chủ cao.
  • Chỉ để lại những khán giả không phải người Anh và không có chuyên môn với những nguồn chất lượng thấp.

Các bước tiếp theo

  1. Tách biệt các tác hại của sản phẩm, sử dụng sai và rủi ro mất kiểm soát/sai lệch.
  2. Hỏi bằng chứng nào sẽ thay đổi quan điểm của bạn về thời gian và mức độ nghiêm trọng.
  3. Ưu tiên các nguồn chính và đánh giá cụ thể hơn các tuyên bố tiếp thị.
  4. Xác định một lộ trình hành động: sự nghiệp, chính sách, nguồn tài trợ hoặc kỹ năng - không chỉ là nhận thức.

Tiếp tục khám phá

Bản tin miễn phí

Nhận bản tóm tắt AI hàng ngày

Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.

Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.

Tự kiểm tra

Làm bài kiểm tra Tương quan và Nhân quả

Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.

Bắt đầu bài kiểm tra

Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp

Câu hỏi thường gặp

Tương quan và Nhân quả là gì?

Tương quan là một mối liên hệ thống kê giữa các biến; nhân quả đặt câu hỏi kết quả sẽ thay đổi như thế nào dưới một sự can thiệp lên một trong số chúng. Sự phân biệt này quan trọng vì các mô hình dự đoán đơn thuần không xác định được hiệu quả của việc thay đổi một chính sách, phương pháp điều trị hoặc hành vi.

Trong ví dụ về kem và đuối nước, lời giải thích thực tế cho sự tương quan của chúng là gì?

Thời tiết nắng nóng là một yếu tố nhiễu tác động độc lập làm tăng cả hoạt động bơi lội (và do đó dẫn đến đuối nước) lẫn doanh số bán kem, tạo ra mối tương quan mà không có bên nào gây ra bên kia.

Trong ví dụ về cảnh sát và tội phạm, nhân quả ngược có thể tạo ra mối liên hệ quan sát được như thế nào?

Nhân quả ngược là sự nhầm lẫn hướng của nhân quả, chẳng hạn như giả định sự hiện diện của cảnh sát gây ra tội phạm trong khi thực tế mức độ tội phạm cao hơn dẫn đến việc tuyển dụng nhiều cảnh sát hơn.

Trong ví dụ về bệnh viện, tại sao một phương pháp điều trị có thể liên quan đến kết quả tồi tệ hơn ngay cả khi nó mang lại hiệu quả?

Nhiễu do chỉ định xảy ra khi lý do một bệnh nhân nhận được phương pháp điều trị, tức mức độ bệnh nặng tiềm ẩn của họ, cũng ảnh hưởng đến kết quả của họ, khiến phương pháp điều trị có vẻ liên quan đến kết quả tồi tệ hơn ngay cả khi nó không phải là nguyên nhân.

Thuật ngữ nào mô tả mối liên hệ giữa hai biến không liên quan phát sinh thuần túy do ngẫu nhiên, đặc biệt là khi nhiều biến được so sánh?

Hướng dẫn mô tả các mối liên hệ ngẫu nhiên giữa các biến không liên quan, thường xuất hiện do kiểm tra nhiều biến với nhau, là tương quan ngẫu nhiên hoặc khai thác dữ liệu.

Hướng dẫn quy ước ký hiệu nào cho phép tính nhân quả của Judea Pearl để phân biệt mối liên hệ quan sát được với hiệu quả can thiệp?

Phần thông tin chuyên sâu kỹ thuật giải thích rằng P(Y|X) biểu thị mối liên hệ quan sát trong khi P(Y|do(X)) biểu thị hiệu quả của việc thực sự can thiệp vào X, một sự khác biệt từ phép tính nhân quả của Pearl.