概述
Grokking 是一種令人驚訝的現象，神經網路首先記住其訓練數據，長時間保持接近零的驗證精度，然後在訓練精度達到 100% 後很長一段時間內突然泛化。它顛覆了學習和泛化同時發生的直覺。
Grokking 和延遲泛化位於核心人工智慧工具包中。當你理解它時，其他人工智慧主題就變得更容易評估和比較。
深入探討
grokking 由 OpenAI 研究人員於 2021 年在模組化算術等小型演算法任務中發現，它顯示出尖銳的兩相曲線。在早期，該模型完美地擬合了訓練集，而驗證性能仍然不穩定，看起來無可救藥地過度擬合。然後，在數千甚至數百萬的額外步驟沒有明顯進展之後，驗證準確度突然躍升至近乎完美。主要的解釋是，權重衰減（正則化）慢慢地迫使網路放棄脆弱的記憶解決方案，並發現一種緊湊的、結構化的解決方案，該解決方案實際上捕獲了基本規則，例如將模加法表示為圓上的旋轉。 Grokking 在小型合成資料集上最為明顯，但理解它可以揭示泛化何時以及為何出現的更深層機制。
技術洞察
Mechanistic 研究了逆向工程 grokked 網絡，發現它們實現了乾淨的演算法，例如使用類似傅立葉的圓形嵌入透過三角恆等式執行模組化算術。這種轉變與正規化下網路權重變得更稀疏和更低範數相關：記憶需要大的、不規則的權重，而泛化電路更簡單。因此，Grokking 說明了快速找到的記憶解決方案與形成較慢、更有效的泛化解決方案之間的競爭。
掌握 Grokking 和延遲泛化
Grokking 是一種令人驚訝的現象，神經網路首先記住其訓練數據，長時間保持接近零的驗證精度，然後在訓練精度達到 100% 後很長一段時間內突然泛化。它顛覆了學習和泛化同時發生的直覺。 Grokking 和延遲泛化位於核心人工智慧工具包中。當你理解它時，其他人工智慧主題就變得更容易評估和比較。為了建立深入的理解，請將 Grokking 和延遲泛化視為一種操作模型，而不是單一功能：定義期望的結果，澄清假設，並將系統可以可靠地執行的操作與仍需要專家判斷的操作分開。
在實踐中，使用 Grokking 和延遲泛化的強大團隊首先建立強大的概念模型，然後將這些模型對應到實際的生產限制。他們記錄明確的成功標準，根據實際數據和工作流程進行測試，並根據觀察到的失敗模式而不是一次性基準測試勝利進行迭代。這就是理論理解轉變為跨產品、政策和營運的持久能力的地方。
它可以幫助您將清晰的技術聲明與行銷語言分開。同時，不同的團隊可能會以不同的方式使用相同術語，因此請儘早定義範圍。最具彈性的方法是將實驗速度與治理規則結合：運行試點、捕獲證據、發布決策日誌，並隨著模型行為、使用者期望和監管要求的發展不斷更新保障措施。
戰略影響
它可以幫助您將清晰的技術聲明與行銷語言分開。
它可以幫助您將清晰的技術聲明與行銷語言分開。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
在花費金錢或時間之前，您可以提出更好的實施問題。
在花費金錢或時間之前，您可以提出更好的實施問題。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
具有共同理解的團隊可以做出更好的產品、政策和學習決策。
具有共同理解的團隊可以做出更好的產品、政策和學習決策。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
現實世界的實施
研究模組化算術任務以對網路學習的精確電路進行逆向工程
展示權重衰減如何推動從記憶到真正泛化的轉變
透過提供清晰、完全理解的模型行為進行分析，為可解釋性研究提供資訊
警告從業者，早期驗證停滯並不總是意味著模型無法學習
實施模式
實踐中的摸索與延遲泛化
研究模組化算術任務，以對網路學習的精確電路進行逆向工程。
研究模組化算術任務以對網路學習的精確電路進行逆向工程團隊通常會在預先定義品質閾值、為邊緣情況保留人工升級路徑並隨著時間的推移跟踪生產力增益和錯誤成本時獲得更好的結果。
實踐中的摸索與延遲泛化
展示權重衰減如何推動從記憶到真正泛化的轉變。
展示權重衰減如何推動從記憶到真正泛化的轉變 當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並追蹤一段時間內的生產力增益和錯誤成本時，通常會獲得更好的結果。
實踐中的摸索與延遲泛化
透過提供清晰、完全理解的模型行為進行分析，為可解釋性研究提供資訊。
透過提供清晰、完全理解的模型行為來分析，為可解釋性研究提供資訊 當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並追蹤一段時間內的生產力增益和錯誤成本時，通常會獲得更好的結果。
實踐中的摸索與延遲泛化
警告從業者，早期驗證停滯並不總是意味著模型無法學習。
警告從業者，早期驗證停滯並不總是意味著模型無法學習。當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並追蹤一段時間內的生產力增益和錯誤成本時，通常會獲得更好的結果。
風險與防護欄
不同的團隊可能會以不同的方式使用相同術語，因此請儘早定義範圍。
基準測試可能看起來很強大，但實際效能卻參差不齊。
忽視數據品質和評估計劃通常會產生脆弱的結果。
實施路線圖
從您需要的結果的簡單語言定義開始。
從您需要的結果的簡單語言定義開始。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
在測試之前選擇一種成功指標和一種失敗條件。
在測試之前選擇一種成功指標和一種失敗條件。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
使用代表性資料運行小型試點，而不是完善的演示集。
使用代表性資料運行小型試點，而不是完善的演示集。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
記錄 Grokking 和延遲泛化在哪些方面有幫助，以及哪些更簡單的方法更好。
記錄 Grokking 和延遲泛化在哪些方面有幫助，以及哪些更簡單的方法更好。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。