人工智慧與數據

其有用性取決於相關性、測量品質、權限和預期任務的覆蓋範圍。更多記錄不會自動修正系統錯誤或缺失的群體。

重點摘要

• 定義範例的單位。
• 僅使用預測時可用的資訊。
• 追蹤資料來源、缺失和亞組覆蓋範圍。

首先定義一個範例代表什麼。一行可能描述一個客戶、一筆交易、一張照片或時間序列中的一個時刻。這些單位決定了重複項、標籤和評估分割的工作方式。一台設備的十次測量不一定是十個獨立的設備。特徵是模型可用的輸入。標籤是監督學習中使用的目標結果。檢查每個功能何時可用：客戶離開後記錄的取消原因無法提前準確預測離開情況。即使該領域看起來具有高度可預測性，這也是一種洩漏形式。檢查缺失值、註釋不一致、異常範圍以及收集方法的變化。缺少的資訊可以承載意義；用零替換每個缺失值可能會將未知量與實際零混為一談。記錄處理方法並在代表性範例上進行測試。記錄資料集的出處和存取規則。單獨的公共 URL 並不能建立為每個目的重複使用每個項目的權限。僅收集任務所需的資訊並定義保留和刪除程序。對組別或條件進行單獨評估，否則誤差會在總體平均值內消失。

1. 想像一下包含註冊日期、每月使用情況、取消日期和取消原因的記錄。
2. 要預測六月初的取消，請凍結該日期的所有輸入。刪除預測時間之後記錄的原因和日期。
3. 在早期的時間段進行訓練，並在稍後的未受影響的時間段進行測試。比較有和沒有洩漏字段的結果。

這個假設的設計練習在令人滿意的分數成為部署決策之前識別出無效的捷徑。