特徵工程
特徵工程是一種將原始資料轉換為有助於模型學習的資訊輸入(特徵)的技術。
概述
In classic machine learning it is often the single biggest driver of accuracy, more than the choice of algorithm.
深入探討
模型只能從您提供的輸入中學習,而原始資料很少以有用的形式到達。特徵工程重塑了它:從時間戳中提取星期幾,計算客戶的平均購買量,將類別編碼為數字,將值縮放到公共範圍,或將列組合成比率。如果做得好,它会暴露算法所需的模式,因此基于重要特征的简单模型通常会击败基于原始数据的复杂模型。它還需要領域知識,因為知道「每分鐘交易數」訊號詐欺是創造強大功能的原因。典型的風險是資料洩漏,意外地根據預測時不可用的信息構建了一個特徵,這會誇大測試分數但在生產中失敗。深度学习使其中一些自动化,但结构化/表格问题仍然严重依赖它。
技術洞察
常見技術包括歸一化或標準化(縮放數字,以便沒有單一特徵占主導地位)、分類變數的單熱或目標編碼、對連續值進行分箱以及創建交互或聚合特徵。一個關鍵的原則是僅在訓練資料上擬合轉換(例如縮放器的平均值和標準差),然後將它們應用於驗證和測試集。在完整資料集上計算它們會洩漏資訊並產生過於樂觀的結果,而這些結果在部署中無法保持。
戰略影響
更明確的決策
它可以幫助您將清晰的技術聲明與行銷語言分開。
成本與預算
在花費金錢或時間之前,您可以提出更好的實施問題。
團隊與工作流程
具有共同理解的團隊可以做出更好的產品、政策和學習決策。
特徵工程的未來
深度学习可以自动提取图像、音频和文本的特征,其中网络直接从原始输入中学习表示。但对于表格数据和业务数据(大多数企业数据)来说,深思熟虑的特征工程仍然具有决定性作用。該領域正在轉向自動化(AutoML,自動特徵生成)和可重用的“特徵存儲”,讓團隊可以跨模型共享一致的、經過充分測試的特徵。預計會有更多工具來建議功能並防止洩漏,而人類領域的專業知識對於最高價值的功能仍然至關重要。
現實世界的實施
詐欺偵測:得出交易頻率、自上次購買以來的時間以及與通常位置的距離等特徵。
需求預測:從原始銷售時間戳記中提取星期幾、假期標誌和滾動平均值。
信用評分:將原始歷史轉化為債務與收入之類的比率以及最近逾期付款的計數。
客戶流失:將活動匯總到功能中,例如每月登入次數和自上次參與以來的天數。
風險與防護欄
不同的團隊可能會以不同的方式使用相同術語,因此請儘早定義範圍。
基準測試可能看起來很強大,但實際效能卻參差不齊。
忽視數據品質和評估計劃通常會產生脆弱的結果。
實施路線圖
從您需要的結果的簡單語言定義開始。
在測試之前選擇一種成功指標和一種失敗條件。
使用代表性資料運行小型試點,而不是完善的演示集。
記錄特徵工程在哪些方面有幫助以及在哪些方面更簡單的方法更好。
不斷探索
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Feature Engineering quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
常見問題
What is Feature Engineering?
特徵工程是一種將原始資料轉換為有助於模型學習的資訊輸入(特徵)的技術。在經典機器學習中,它通常是準確性的最大驅動因素,而不是演算法的選擇。
什麼是特徵工程?
特徵工程是根據原始資料製作輸入(特徵),以便模型可以找到有用的模式。
為什麼特徵工程在經典機器學習中經常被描述為至關重要?
在結構化資料上,精心設計的特徵通常比特定模型更重要,因此基於出色特徵的簡單模型可以獲勝。
什麼是特徵工程中的資料外洩?
洩漏意味著某個功能潛入了您在預測時實際上不會獲得的信息,從而誇大了測試分數,但在生產中卻失敗了。
當縮放特徵(例如標準化)時,應該在哪裡計算平均值和標準差?
僅在訓練資料上安裝縮放器,然後將其應用到其他地方,可以防止洩漏並給出實際的性能估計。
下列哪一項是分類資料的典型特徵工程技術?
分類變數通常透過 one-hot 或目標編碼轉換為數字,以便模型可以使用它們。