摸索和延遲泛化
Grokking 是一種令人驚訝的現象，神經網路首先記住其訓練數據，長時間保持接近零的驗證精度，然後在訓練精度達到 100% 後很長一段時間內突然泛化。
概述
It overturns the intuition that learning and generalization happen together.
深入探討
grokking 由 OpenAI 研究人員於 2021 年在模組化算術等小型演算法任務中發現，它顯示出尖銳的兩相曲線。在早期，該模型完美地擬合了訓練集，而驗證性能仍然不穩定，看起來無可救藥地過度擬合。然後，在數千甚至數百萬的額外步驟沒有明顯進展之後，驗證準確度突然躍升至近乎完美。主要的解釋是，權重衰減（正則化）慢慢地迫使網路放棄脆弱的記憶解決方案，並發現一種緊湊的、結構化的解決方案，該解決方案實際上捕獲了基本規則，例如將模加法表示為圓上的旋轉。 Grokking 在小型合成資料集上最為明顯，但理解它可以揭示泛化何時以及為何出現的更深層機制。
技術洞察
Mechanistic 研究了逆向工程 grokked 網絡，發現它們實現了乾淨的演算法，例如使用類似傅立葉的圓形嵌入透過三角恆等式執行模組化算術。這種轉變與正規化下網路權重變得更稀疏和更低範數相關：記憶需要大的、不規則的權重，而泛化電路更簡單。因此，Grokking 說明了快速找到的記憶解決方案與形成較慢、更有效的泛化解決方案之間的競爭。
戰略影響
更明確的決策
它可以幫助您將清晰的技術聲明與行銷語言分開。
成本與預算
在花費金錢或時間之前，您可以提出更好的實施問題。
團隊與工作流程
具有共同理解的團隊可以做出更好的產品、政策和學習決策。
Grokking 的未來與延遲泛化
Grokking 是通往泛化科學的一扇窗口，研究人員希望擴大這一範圍。懸而未決的問題包括延遲泛化是否在大型模型中悄悄發生，如何檢測或加速轉變，以及了解模型何時真正學習了概念與記憶的範例意味著什麼。洞察力可以為更好的正則化、訓練計劃和可解釋性工具提供信息，並可以幫助預測大型語言模型中的新興功能。
現實世界的實施
研究模組化算術任務以對網路學習的精確電路進行逆向工程
展示權重衰減如何推動從記憶到真正泛化的轉變
透過提供清晰、完全理解的模型行為進行分析，為可解釋性研究提供資訊
警告從業者，早期驗證停滯並不總是意味著模型無法學習
風險與防護欄
不同的團隊可能會以不同的方式使用相同術語，因此請儘早定義範圍。
基準測試可能看起來很強大，但實際效能卻參差不齊。
忽視數據品質和評估計劃通常會產生脆弱的結果。
實施路線圖
從您需要的結果的簡單語言定義開始。
在測試之前選擇一種成功指標和一種失敗條件。
使用代表性資料運行小型試點，而不是完善的演示集。
記錄 Grokking 和延遲泛化在哪些方面有幫助，以及哪些更簡單的方法更好。
不斷探索
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Grokking and Delayed Generalization quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
常見問題
What is Grokking and Delayed Generalization?
Grokking 是一種令人驚訝的現象，神經網路首先記住其訓練數據，長時間保持接近零的驗證精度，然後在訓練精度達到 100% 後很長一段時間內突然泛化。它顛覆了學習和泛化同時發生的直覺。
神經網路訓練中的 grokking 的定義是什麼？
Grokking 是指在訓練準確率已經達到 100% 之後，突然躍升到良好的驗證表現。
grokking 首先在哪些類型的任務上被顯著地觀察到？
OpenAI 研究人員在 2021 年報告了對模加法等小型合成演算法問題的探索。
哪個因素最常被認為推動了摸索到泛化的轉變？
權重衰減逐漸將網路從脆弱的記憶解決方案推向緊湊的泛化電路。
當研究人員對模運算的 grokked 網路進行逆向工程時，他們發現了什麼？
機械可解釋性揭示了網路學習了三角、圓形表示來計算模算術。
為什麼 grokking 被描述為兩種解決方案之間的競爭？
網路很快就找到一個記憶解決方案，但在正則化下，最終收斂到一個更簡單的泛化電路。