技術指南

特徵商店

特徵儲存是一個中央系統,用於計算、儲存和提供機器學習模型使用的輸入變數(特徵)。

概述

特徵儲存是一個中央系統,用於計算、儲存和提供機器學習模型使用的輸入變數(特徵)。它的存在是為了確保在訓練和即時預測期間使用完全相同的特徵值,從而消除臭名昭著的無聲模型故障源。

特徵儲存是一個技術構建塊,會大規模影響模型品質、基礎設施成本、延遲和可靠性。

深入探討

模型不是從原始資料中學習;而是從原始資料中學習。他們從「過去 30 天內的平均購買金額」或「自上次登入以來的時間」等特徵中學習。如果沒有特徵存儲,一個團隊會在訓練管道中計算這些特徵,而另一個團隊會在生產代碼中重新實現它們,這兩個團隊就會出現分歧,這個問題稱為訓練服務偏差。特徵儲存透過兩個同步層解決了這個問題:離線儲存(保存多年訓練歷史的資料倉儲)和線上儲存(快速鍵值資料庫,為即時請求提供以毫秒為單位的特徵)。兩者都由相同的特徵定義填充。團隊還可以獲得一個共享目錄,以便為一個模型建立的功能可以被另一個模型發現和重用,並且時間點正確性可以防止意外地對未來的資料進行訓練。

技術洞察

特徵儲存解決的最困難的問題是時間點連接。建立訓練集時,您必須附加每個歷史事件發生時的特徵值,而不是當前值,否則模型會從資料外洩中學習。功能儲存每個值的時間戳,並對離線儲存執行 as-of 聯結。線上商店(通常是 Redis 或 DynamoDB)僅保存每個實體鍵的最新值,以便在推理期間進行不到 10 毫秒的查找。

掌握特徵存儲

特徵儲存是一個中央系統,用於計算、儲存和提供機器學習模型使用的輸入變數(特徵)。它的存在是為了確保在訓練和即時預測期間使用完全相同的特徵值,從而消除臭名昭著的無聲模型故障源。特徵儲存是一個技術構建塊,會大規模影響模型品質、基礎設施成本、延遲和可靠性。為了建立深入的理解,請將特徵儲存視為一種操作模型,而不是單一特徵:定義期望的結果,澄清假設,並將系統可以可靠地執行的操作與仍需要專家判斷的操作分開。

在實踐中,使用特徵儲存的強大團隊根據可靠性和成本優化架構、資料和基礎設施選擇。他們記錄明確的成功標準,根據實際數據和工作流程進行測試,並根據觀察到的失敗模式而不是一次性基準測試勝利進行迭代。這就是理論理解轉變為跨產品、政策和營運的持久能力的地方。

多年來,架構決策決定著效能和營運成本。同時,優化一個基準測試可以隱藏更廣泛的系統弱點。最具彈性的方法是將實驗速度與治理規則結合:運行試點、捕獲證據、發布決策日誌,並隨著模型行為、使用者期望和監管要求的發展不斷更新保障措施。

戰略影響

多年來,架構決策決定著效能和營運成本。

多年來,架構決策決定著效能和營運成本。在高品質部署中,這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式,以便團隊可以增強信心,而不是擴大模糊性。

技術教育幫助團隊選擇正確的堆疊,而不僅僅是最新的堆疊。

技術教育幫助團隊選擇正確的堆疊,而不僅僅是最新的堆疊。在高品質部署中,這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式,以便團隊可以增強信心,而不是擴大模糊性。

更好的工程選擇可以減少生產中的可靠性事故。

更好的工程選擇可以減少生產中的可靠性事故。在高品質部署中,這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式,以便團隊可以增強信心,而不是擴大模糊性。

特徵商店的未來

特徵儲存正在與更廣泛的資料堆疊融合:許多現在直接在資料倉儲內計算特徵,而不是維護單獨的管道。在幾秒鐘內根據事件流計算出的即時串流功能正在成為詐欺和個人化的標準。隨著嵌入成為一流的特徵,期望與向量資料庫進行更深入的集成,並與模型監控更緊密地耦合,以便自動檢測特徵漂移。還有一種趨勢是“功能平台”,將定義、服務、監控和治理統一在一個管理層中。

現實世界的實施

一家支付公司在線上商店中儲存了 24 小時滾動交易速度特徵,因此其詐騙模型可以在 10 毫秒內完成一次刷卡操作。

串流媒體服務在特徵儲存中定義「最近 7 天的觀看時間」一次,然後在推薦、流失和廣告定位模型中重複使用它。

貸款平台使用時間點連接來建立訓練數據,確保每個貸款決策只能看到該決策之前已知的申請人特徵。

一款叫車應用程式提供從串流功能管道到預計到達時間 (ETA) 預測模型的即時高峰和駕駛員可用性功能。

實施模式

特徵儲存實踐

一家支付公司在線上商店中儲存了 24 小時滾動交易速度特徵,因此其詐騙模型可以在 10 毫秒內完成一次刷卡操作。

一家支付公司在線上商店中儲存滾動的 24 小時交易速度功能,因此其詐騙模型可以在 10 毫秒內完成一次刷卡。當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並追蹤一段時間內的生產力增益和錯誤成本時,通常會獲得更好的結果。

特徵儲存實踐

串流媒體服務在特徵儲存中定義「最近 7 天的觀看時間」一次,然後在推薦、流失和廣告定位模型中重複使用它。

串流媒體服務在功能商店中定義一次“過去 7 天的觀看時間”,然後在推薦、流失和廣告定位模型中重複使用它。當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並隨著時間的推移追蹤生產力增益和錯誤成本時,通常會獲得更好的結果。

特徵儲存實踐

貸款平台使用時間點連接來建立訓練數據,確保每個貸款決策只能看到該決策之前已知的申請人特徵。

貸款平台使用時間點連接來建立訓練數據,確保每個貸款決策只能看到決策之前已知的申請人特徵。當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並隨著時間的推移追蹤生產力增益和錯誤成本時,通常會得到更好的結果。

特徵儲存實踐

一款叫車應用程式提供從串流功能管道到預計到達時間 (ETA) 預測模型的即時高峰和駕駛員可用性功能。

乘車應用程式提供從串流功能管道到其 ETA 預測模型的即時高峰和駕駛員可用性功能。當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並隨著時間的推移追蹤生產力增益和錯誤成本時,通常會獲得更好的結果。

風險與防護欄

!

優化一項基準測試可以隱藏更廣泛的系統弱點。

!

基礎設施和維護成本常常被低估。

!

隨著系統變得更加複雜,安全性和可觀察性差距可能會擴大。

實施路線圖

1

在實施之前定義延遲、品質和成本目標。

在實施之前定義延遲、品質和成本目標。將每個步驟視為證據門:如果不符合標準,則暫停推出,縮小差距,然後再擴大使用。

2

在實際負載和資料條件下進行基準測試。

在實際負載和資料條件下進行基準測試。將每個步驟視為證據門:如果不符合標準,則暫停推出,縮小差距,然後再擴大使用。

3

儀器監控錯誤、漂移和使用者影響。

儀器監控錯誤、漂移和使用者影響。將每個步驟視為證據門:如果不符合標準,則暫停推出,縮小差距,然後再擴大使用。

4

在擴展之前準備回滾和事件回應路徑。

在擴展之前準備回滾和事件回應路徑。將每個步驟視為證據門:如果不符合標準,則暫停推出,縮小差距,然後再擴大使用。

不斷探索