概述
混淆矩陣是一個簡單的表，它將分類器的預測分為每個類別的正確和錯誤計數。它是計算幾乎所有其他分類指標的原始記分板。
混淆矩陣位於核心人工智慧工具包。當你理解它時，其他人工智慧主題就變得更容易評估和比較。
深入探討
混淆矩陣是將預測標籤與實際標籤進行比較的網格。對於二元分類，它有四個單元：真陽性（正確預測為陽性）、真陰性（正確預測為陰性）、假陽性（陰性被錯誤標記為陽性，「I 型錯誤」）和假陰性（漏掉的陽性，「II 型錯誤」）。從這四個數字中，您可以得出準確度 ((TP+TN)/總計)、精確度 (TP/(TP+FP))、召回率或靈敏度 (TP/(TP+FN))、特異性 (TN/(TN+FP)) 和 F1 分數（精確度和召回率的調度平均值）。對於兩個以上類別的問題，矩陣變為 N×N，其中對角線保存正確的預測，非對角線單元準確地揭示哪些類別與其他類別混淆。
技術洞察
此矩陣的強大之處在於它保留了單一精確度數字隱藏的錯誤結構。兩個具有相同 90% 準確率的模型可能具有截然不同的偽陰性率，當錯過癌症診斷的代價比誤報的代價更大時，這一點就非常重要。按照慣例，行通常代表真實的類別，列代表預測的類別（儘管有些庫會翻轉這一點），因此在計算精度與單元格的召回率之前，請務必檢查軸標籤。
掌握混淆矩陣
混淆矩陣是一個簡單的表，它將分類器的預測分為每個類別的正確和錯誤計數。它是計算幾乎所有其他分類指標的原始記分板。混淆矩陣位於核心人工智慧工具包。當你理解它時，其他人工智慧主題就變得更容易評估和比較。為了建立深入的理解，請將混淆矩陣視為操作模型，而不是單一功能：定義期望值的結果，澄清假設，並將系統可以可靠地執行的操作與仍然需要專家判斷的操作分開。
在實踐中，使用混淆矩陣的強大團隊首先建立強大的概念模型，然後將這些模型映射到實際的生產限制。他們記錄明確的成功標準，根據實際數據和工作流程進行測試，並根據觀察到的失敗模式而不是一次性基準測試勝利進行迭代。這就是理論理解轉變為跨產品、政策和營運的持久能力的地方。
它可以幫助您將清晰的技術聲明與行銷語言分開。同時，不同的團隊可能會以不同的方式使用相同術語，因此請儘早定義範圍。最具彈性的方法是將實驗速度與治理規則結合：運行試點、捕獲證據、發布決策日誌，並隨著模型行為、使用者期望和監管要求的發展不斷更新保障措施。
戰略影響
它可以幫助您將清晰的技術聲明與行銷語言分開。
它可以幫助您將清晰的技術聲明與行銷語言分開。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
在花費金錢或時間之前，您可以提出更好的實施問題。
在花費金錢或時間之前，您可以提出更好的實施問題。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
具有共同理解的團隊可以做出更好的產品、政策和學習決策。
具有共同理解的團隊可以做出更好的產品、政策和學習決策。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
現實世界的實施
透過觀察影像分類器經常將非對角線單元中的哈士奇與狼混淆來診斷影像分類器失敗的地方
透過檢查假陰性來審核醫療篩檢工具－患有模型宣稱健康的疾病的患者
比較兩個具有相同準確度但錯誤阻止的真實電子郵件數量不同的電子郵件垃圾郵件過濾器（誤報）
評估多類手寫數字辨識器，發現 4 和 9 最常被誤認為彼此
實施模式
混淆矩陣的實踐
透過觀察影像分類器經常將非對角線單元中的哈士奇與狼混淆來診斷影像分類器的失敗之處。
透過觀察影像分類器經常將非對角單元格中的哈士奇與狼混淆來診斷影像分類器的失敗之處。當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並隨著時間的推移追蹤生產力增益和錯誤成本時，通常會獲得更好的結果。
混淆矩陣的實踐
透過檢查假陰性（患有模型宣稱健康的疾病的患者）來審查醫療篩檢工具。
透過檢查假陰性（模型宣稱健康的疾病患者）來審核醫療篩檢工具。當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並隨著時間的推移追蹤生產力增益和錯誤成本時，通常會得到更好的結果。
混淆矩陣的實踐
比較兩個具有相同準確度但錯誤封鎖的真實電子郵件數量（誤報）的電子郵件垃圾郵件過濾器。
比較兩個具有相同準確度但錯誤封鎖的真實電子郵件數量（誤報）的電子郵件垃圾郵件過濾器。當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並隨著時間的推移追蹤生產力增益和錯誤成本時，通常會獲得更好的結果。
混淆矩陣的實踐
評估多類手寫數位辨識器，發現 4 和 9 最常被誤認為是彼此。
評估多類別手寫數字辨識器，發現 4 和 9 最常被誤認為彼此。當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並隨著時間的推移追蹤生產力增益和錯誤成本時，通常會獲得更好的結果。
風險與防護欄
不同的團隊可能會以不同的方式使用相同術語，因此請儘早定義範圍。
基準測試可能看起來很強大，但實際效能卻參差不齊。
忽視數據品質和評估計劃通常會產生脆弱的結果。
實施路線圖
從您需要的結果的簡單語言定義開始。
從您需要的結果的簡單語言定義開始。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
在測試之前選擇一種成功指標和一種失敗條件。
在測試之前選擇一種成功指標和一種失敗條件。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
使用代表性資料運行小型試點，而不是完善的演示集。
使用代表性資料運行小型試點，而不是完善的演示集。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
記錄混淆矩陣在哪些方面有幫助以及在哪些方面更簡單的方法更好。
記錄混淆矩陣在哪些方面有幫助以及在哪些方面更簡單的方法更好。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。