社團指南

相關性與因果關係

相關性是變數之間的統計關聯;因果關係則探討若對其中一個變數進行干預,結果會如何改變。

聆聽此指南AI 語音敘述 · ~3 min

本頁閱讀時間3分鐘
  1. 概述
  2. 深入探討
  3. 現實世界的實施
  4. 相關性與因果關係的未來
  5. 付諸實踐
  6. 不斷探索
  7. 常見問題

概述

這種區別至關重要,因為僅憑預測模式無法識別改變政策、治療或行為所帶來的影響。

深入探討

Correlation is a statistical relationship: as one variable changes, another tends to change too, measured for instance by a correlation coefficient. Causation means a change in one variable actually brings about the change in the other. The core reason correlation does not imply causation is that an observed statistical association can arise through several non-causal paths. A confounding variable can independently influence both measured variables, creating an association between them even though neither directly causes the other, as with ice cream sales and drownings both driven by summer heat. Reverse causation is a second path: assuming variable A causes B when in fact B causes A, such as assuming police presence causes crime rather than crime causing more hiring. A third path is coincidence or spurious correlation, where two unrelated trends move together purely by chance, especially likely when many variables are tested against each other, a problem statisticians call data dredging. This distinction is central to how machine learning is used responsibly. Predictive models, including large-scale AI systems trained on observational data, are fundamentally correlation detectors: they learn statistical patterns in their training data without inherently understanding cause and effect. When such patterns are used to justify interventions, such as denying loans, targeting policing, or setting insurance prices based on correlated but non-causal factors, the result can encode and amplify existing biases in the data rather than identifying true causal drivers. Establishing genuine causation typically requires controlled experiments or specific statistical techniques designed to account for confounding, rather than pattern-matching on observational data alone.

現實世界的實施

冰淇淋銷量與溺水死亡人數在夏季都會上升,兩者相關並非因為冰淇淋導致溺水,而是因為有一個混雜因子——炎熱天氣,同時推動了更多游泳活動與冰淇淋購買。

擁有較多警察的城市有時會顯示出較高的犯罪記錄率,這可能反映了反向因果關係(犯罪率高導致聘請更多警察),而非警察的存在導致了犯罪。

一個在醫院數據上訓練的機器學習模型可能會發現,接受特定治療的患者預後較差,但實際上是因為病情較重的患者更有可能優先接受該治療,這稱為適應症混雜(confounding by indication)。

諾貝爾獎得主較多的國家,其人均巧克力消費量往往也較高,這是一個被廣泛引用的虛假相關,其背後原因是國家財富同時影響了這兩個變數,而非巧克力能提升成就。

相關性與因果關係的未來

因果推論技術正日益整合到機器學習流程中,特別是在經濟學、醫療保健和政策評估領域,這些領域的決策需要的不仅仅是預測準確性。對演算法偏見的日益關注,促使從業者審視模型的相關性究竟是反映了真正的因果驅動因素,還是編碼了諸如歷史歧視之類的混雜因子。即便如此,大多數大規模 AI 系統本質上仍然是相關性的,而在大規模環境下建立可靠的因果推理仍然是一項未解決的技術挑戰。相關性與因果關係之間的區別,很可能會繼續作為評估任何 AI 驅動決策系統的標準檢查點,特別是在貸款和招聘等高風險領域。

付諸實踐

為什麼這很重要

  • 風險與安全. 災難性和日常的人工智慧危害都取決於誰了解風險以及誰能夠採取行動。
  • 更明確的決策. 民眾和專業素養決定強而有力的安全政策在政治上是否可行。
  • 突破炒作. 清晰的解釋可以減少炒作、實驗室公關和模糊道德劇場的影響。

留意

  • 將存在風險視為科幻小說,同時能力複合。
  • 混淆了表面產品安全與高度自治下的對準。
  • 只給非英語和非專業觀眾留下低品質的資源。

後續步驟

  1. 單獨的產品危害、誤用和失控/失調風險。
  2. 詢問哪些證據會改變您對時間表和嚴重性的看法。
  3. 比起行銷主張,更喜歡主要來源和具體評估。
  4. 確定一條行動路徑:職業、政策、資金或技能——而不僅僅是意識。

不斷探索

免費電子報

獲取每日 AI 簡報

每個工作日上午提供三則經過驗證的 AI 新聞,以淺顯易懂的英文撰寫。永久免費,無廣告。

每個工作日一封電子郵件。一鍵取消訂閱。我們絕不出售或分享您的地址。

測試一下自己

進行相關性與因果關係測驗

每個答案皆有即時回饋,通過課程後可獲得具備可驗證 ID 的可分享證書。

開始測驗

支持免費的 AI 教育。AI Understanding 是一個 501(c)(3) 非營利組織——絕無廣告,絕無付費牆。 捐款

常見問題

什麼是相關性與因果關係?

相關性是變數之間的統計關聯;因果關係則探討若對其中一個變數進行干預,結果會如何改變。這種區別至關重要,因為僅憑預測模式無法識別改變政策、治療或行為所帶來的影響。

在冰淇淋與溺水的例子中,它們相關的實際解釋是什麼?

炎熱天氣是一個混雜因子,它獨立地推動了更多游泳活動(進而導致溺水)以及更多冰淇淋銷量,從而產生了相關性,但兩者之間並無因果關係。

在警察與犯罪的例子中,反向因果關係如何產生觀察到的關聯?

反向因果關係是指弄錯了因果方向,例如假設警察的存在導致了犯罪,但事實上是較高的犯罪率導致了更多警察被聘用。

在醫院的例子中,為什麼即使治療有效,它仍可能與較差的預後相關聯?

適應症混雜發生在患者接受治療的原因(即其潛在的病情嚴重程度)同時也影響了其預後時,這使得治療看起來與較差的預後相關,即使它並非造成結果的原因。

什麼術語用來描述兩個不相關變數之間純粹因偶然產生的關聯,特別是在比較許多變數時?

本指南將不相關變數之間偶然產生的關聯(通常是透過測試許多變數相互對比而浮現)描述為虛假相關或數據挖掘(data dredging)。

本指南將 Judea Pearl 因果演算中用於區分觀察到的關聯與干預效果的哪種符號歸功於他?

技術洞察部分解釋了 P(Y|X) 表示觀察到的關聯,而 P(Y|do(X)) 表示實際對 X 進行干預的效果,這是 Pearl 因果演算中的一個區別。