概述
簽名和來源可以驗證工件來自何處以及是否發生更改,但它們並不能證明模型是安全、準確或公正的。
深入探討
機器學習系統不僅僅依賴模型權重。其供應鏈包括原始程式碼、建置工具、套件相依性、基礎映像、培訓和評估資料、序列化工件和部署配置。攻擊者或意外錯誤可能會引入惡意依賴項、更改模型檔案、在建置過程中洩漏憑證或部署從未審查過的工件。安全實踐應該保護這些輸入並保留有關發布工件如何產生的可追蹤證據。數位簽章將工件與簽章身分和加密摘要綁定。驗證者可以檢查工件是否與簽署的內容相符以及簽名是否連結到預期的身份或策略。出處聲明可以記錄建置輸入和流程細節。 Sigstore 工具支援對容器工件和驗證工作流程進行簽署。這些檢查有助於拒絕被篡改或未經授權的工件,但有效簽名僅表明特定身分簽署了特定位元組;這並不意味著內容是安全或正確的。模型序列化值得特別注意。 Python pickle 可以在反序列化期間執行任意程式碼,因此載入不受信任的 pickle 是危險的。驗證來自可信任來源的工件,並在適當時考慮具有較窄執行行為的格式。即使如此,資料解析器和模型運行時也可能存在漏洞。掃描依賴項和容器,限制權限,隔離訓練和推理,並避免將機密儲存在映像或模型包中。有用的發布記錄連結來源修訂、建置環境、依賴項、資料沿襲、評估報告和工件摘要。對簽章金鑰套用存取控制,並首選短期身分或可用的託管簽章工作流程。驗證部署策略中的簽名,而不是在不強制執行的情況下進行簽名。安全審查應包括事件回應和密鑰輪換。供應鏈控制確保完整性和來源;仍需要單獨的測試、隱私和負責任的人工智慧評估來判斷模型的行為和適用性。
現實世界的實施
團隊在受控建置後對容器鏡像進行簽名,並在部署前根據預期身份驗證簽名,從而降低接受更改鏡像的風險。
從陌生來源下載模型檔。由於某些序列化格式可以在載入期間執行程式碼,因此團隊在打開它之前會檢查其來源並盡可能使用更安全的格式。
管道記錄來源修訂、相依性鎖定檔案、訓練資料版本和模型摘要以及評估結果,從而使工件的建置鏈可審查。
簽名驗證工件完整性和簽署者身份,而單獨的漏洞掃描和模型評估則解決不同的安全性和品質問題。
機器學習供應鏈安全與模型簽名的未來
機器學習團隊可以透過簽署不可變的工件、驗證部署中的簽名以及透過評估保留建置來源來加強發布實務。實際的第一步是映射哪些依賴項和資料來源可以影響生產模型,然後限制誰可以更改每個步驟。定期掃描影像和依賴項,並在輪換簽名憑證時測試恢復。簽名不應取代行為、隱私或安全審查。更好的供應鏈儀表板可以將工件身份與其來源修訂和評估報告連接起來,幫助響應人員追蹤實際運行的內容。
付諸實踐
為什麼這很重要
- 成本與預算. 多年來,架構決策決定著效能和營運成本。
- 更明確的決策. 技術教育幫助團隊選擇正確的堆疊,而不僅僅是最新的堆疊。
- 品質管控. 更好的工程選擇可以減少生產中的可靠性事故。
留意
- 優化一項基準測試可以隱藏更廣泛的系統弱點。
- 基礎設施和維護成本常常被低估。
- 隨著系統變得更加複雜,安全性和可觀察性差距可能會擴大。
後續步驟
- 在實施之前定義延遲、品質和成本目標。
- 在實際負載和資料條件下進行基準測試。
- 儀器監控錯誤、漂移和使用者影響。
- 在擴展之前準備回滾和事件回應路徑。
不斷探索
常見問題
什麼是 ML 供應鏈安全性和模型簽章?
機器學習供應鏈安全性可在整個建置和部署過程中保護程式碼、相依性、資料集和模型工件免遭篡改或不受信任的來源的影響。簽名和來源可以驗證工件來自何處以及是否發生更改,但它們並不能證明模型是安全、準確或公正的。
驗證工件上的數位簽章最直接地確定了什麼?
簽名驗證檢查策略下的完整性和簽署者信任;它不會建立模型品質。
為什麼載入不受信任的 Python pickle 有風險?
Pickle 重建可以呼叫程式碼,因此不受信任的 pickle 檔案可以執行惡意行為。
建置來源可以加入到簽章模型工件中什麼?
出處記錄了工件的產生方式以及涉及哪些輸入或工作流程。
為什麼部署必須強制簽章驗證?
僅當發布或部署程序檢查並拒絕不受信任的工件時,控制才有意義。
有效簽名不能證明什麼?
真實性和完整性並不評估模型的行為、準確性或安全性。