概述
彩票假說認為，在一個大型的、隨機初始化的神經網路內部隱藏著一個小的子網路——一張「中獎彩票」——它透過相同的初始權重單獨訓練，可以匹配整個網路的準確性。這很重要，因為它表明我們訓練的參數遠遠多於我們實際需要的參數。
彩票假設位於核心人工智慧工具包。當你理解它時，其他人工智慧主題就變得更容易評估和比較。
深入探討
這個假設由麻省理工學院的喬納森·弗蘭克爾和邁克爾·卡賓於 2018 年提出，源自於修剪研究。通常，您可以將經過訓練的網路修剪至其權重的 10-20%，而不會失去準確性，但從頭開始訓練該小型網路會失敗。弗蘭克爾和卡賓找到了竅門：保留倖存連接的原始初始權重。然後，稀疏的子網路（中獎彩券）會獨立訓練到完全準確，有時比密集的原始子網路更快。他們透過「迭代幅度修剪」來識別票證：訓練，修剪最小幅度的權重，將其餘權重回滾到初始值，然後重複。結果表明，密集的超參數化主要有助於優化找到良好的稀疏結構，而不是所有這些權重都是單獨必要的。
技術洞察
核心過程是帶有權重倒帶的迭代幅度修剪：訓練後，刪除最低幅度的權重，將剩餘的權重重置為其原始初始化（或早期訓練檢查點，稱為「倒帶」的細化），然後重新訓練。特定的稀疏遮罩及其匹配的初始化的組合使得票證「獲勝」——隨機重新初始化相同的遮罩會破壞效果。
掌握彩券假設
彩票假說認為，在一個大型的、隨機初始化的神經網路內部隱藏著一個小的子網路——一張「中獎彩票」——它透過相同的初始權重單獨訓練，可以匹配整個網路的準確性。這很重要，因為它表明我們訓練的參數遠遠多於我們實際需要的參數。彩票假設位於核心人工智慧工具包。當你理解它時，其他人工智慧主題就變得更容易評估和比較。為了建立深入的理解，請將彩票假設視為一種操作模型，而不是單一功能：定義期望的結果，澄清假設，並將系統可以可靠地完成的任務與仍然需要專家判斷的任務分開。
在實踐中，使用彩票假設的強大團隊首先建立強大的概念模型，然後將這些模型映射到實際的生產限制。他們記錄明確的成功標準，根據實際數據和工作流程進行測試，並根據觀察到的失敗模式而不是一次性基準測試勝利進行迭代。這就是理論理解轉變為跨產品、政策和營運的持久能力的地方。
它可以幫助您將清晰的技術聲明與行銷語言分開。同時，不同的團隊可能會以不同的方式使用相同術語，因此請儘早定義範圍。最具彈性的方法是將實驗速度與治理規則結合：運行試點、捕獲證據、發布決策日誌，並隨著模型行為、使用者期望和監管要求的發展不斷更新保障措施。
戰略影響
它可以幫助您將清晰的技術聲明與行銷語言分開。
它可以幫助您將清晰的技術聲明與行銷語言分開。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
在花費金錢或時間之前，您可以提出更好的實施問題。
在花費金錢或時間之前，您可以提出更好的實施問題。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
具有共同理解的團隊可以做出更好的產品、政策和學習決策。
具有共同理解的團隊可以做出更好的產品、政策和學習決策。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
現實世界的實施
將大型影像分類器壓縮至其權重的 20% 以下，以便部署在手機上，同時保持準確性
透過僅識別和訓練稀疏獲勝子網路來加速訓練
透過重複使用在一個資料集上找到的票證來快速啟動相關資料集的訓練來研究權重可轉移性
透過運送修剪過的中獎彩票而不是密集模型來減少邊緣設備中的推理能量和內存
實施模式
彩票假說的實踐
將大型影像分類器壓縮至其權重的 20% 以下，以便部署在手機上，同時保持準確性。
將大型影像分類器壓縮到其權重的 20% 以下，以便部署在手機上，同時保持準確性。當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並追蹤一段時間內的生產力提升和錯誤成本時，通常會獲得更好的結果。
彩票假說的實踐
透過僅識別和訓練稀疏的獲勝子網路來加速訓練。
透過僅識別和訓練稀疏的獲勝子網路來加速訓練團隊在預先定義品質閾值、為邊緣情況保留人工升級路徑並追蹤一段時間內的生產力增益和錯誤成本時，通常會獲得更好的結果。
彩票假說的實踐
透過重複使用在一個資料集上找到的票證來啟動相關資料集的訓練來研究權重可轉移性。
透過重複使用在一個資料集上找到的票據來研究權重可轉移性，以啟動相關資料集上的培訓團隊通常會在預先定義品質閾值、為邊緣情況保留人工升級路徑並追蹤一段時間內的生產力增益和錯誤成本時獲得更好的結果。
彩票假說的實踐
透過發送修剪過的中獎彩票而不是密集模型來減少邊緣設備中的推理能量和記憶體。
透過發送修剪後的中獎彩票而不是密集模型來減少邊緣設備中的推理能量和內存當團隊預先定義質量閾值、為邊緣情況保留人工升級路徑並跟踪一段時間內的生產力增益和錯誤成本時，通常會獲得更好的結果。
風險與防護欄
不同的團隊可能會以不同的方式使用相同術語，因此請儘早定義範圍。
基準測試可能看起來很強大，但實際效能卻參差不齊。
忽視數據品質和評估計劃通常會產生脆弱的結果。
實施路線圖
從您需要的結果的簡單語言定義開始。
從您需要的結果的簡單語言定義開始。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
在測試之前選擇一種成功指標和一種失敗條件。
在測試之前選擇一種成功指標和一種失敗條件。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
使用代表性資料運行小型試點，而不是完善的演示集。
使用代表性資料運行小型試點，而不是完善的演示集。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
記錄彩票假設在哪些方面有幫助以及在哪些方面更簡單的方法更好。
記錄彩票假設在哪些方面有幫助以及在哪些方面更簡單的方法更好。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。