神經網路的縮放定律
縮放定律是一個經驗公式，顯示隨著模型大小、資料集大小和計算的增加，神經網路的損失可預測地下降。
概述
縮放定律是一個經驗公式，顯示隨著模型大小、資料集大小和計算的增加，神經網路的損失可預測地下降。它們很重要，因為它們讓研究人員在花費數百萬美元訓練巨型模型之前預測表現。
神經網路的擴展定律位於核心人工智慧工具包。當你理解它時，其他人工智慧主題就變得更容易評估和比較。
深入探討
Kaplan 及其同事在 OpenAI 的 2020 年論文中推廣的縮放定律發現，測試損失按照平滑冪律在三個量上減少：參數計數 (N)、訓練令牌 (D) 和總計算量 (C)。在雙對數軸上繪製時，損失與每個因素的關係形成一條跨越多個數量級的幾乎直線。這些關係的形式為 Loss ≈ a + b·X^(-c)，其中 X 為縮放因子。至關重要的是，最初的工作表明模型大小比數據更重要，從而引發了對更大模型（例如 GPT-3 的 1750 億個參數）的競賽。縮放定律將深度學習從猜測轉變為可預測的工程學科，讓團隊可以透過小型、廉價的實驗來預測大規模結果。
技術洞察
冪律形式意味著計算的每個固定乘法增加都會產生大致恆定的加法損失下降。損失以 nat 或每個交叉熵令牌的位數來衡量。由於指數 c 很小（通常在 0.05-0.1 左右），收益是真實的，但在遞減：計算量加倍的幫助遠小於第一次加倍的幫助。重要的是，這些定律描述了不可約加可約損失，其中常數項捕捉了任何模型都無法擊敗的資料的內在熵。
掌握神經網路的縮放定律
為了加深理解，請將神經網路的縮放定律視為一種操作模型，而不是單一功能。定義期望的結果，澄清假設，並將系統可以可靠地完成的任務與仍需要專家判斷的任務分開。
在實踐中，使用神經網路縮放定律的強大團隊首先建立強大的概念模型，然後將這些模型映射到實際的生產限制。他們記錄明確的成功標準，根據實際數據和工作流程進行測試，並根據觀察到的失敗模式而不是一次性基準測試勝利進行迭代。這就是理論理解轉變為跨產品、政策和營運的持久能力的地方。
它可以幫助您將清晰的技術聲明與行銷語言分開。同時，不同的團隊可能會以不同的方式使用相同術語，因此請儘早定義範圍。最具彈性的方法是將實驗速度與治理規則結合：運行試點、捕獲證據、發布決策日誌，並隨著模型行為、使用者期望和監管要求的發展不斷更新保障措施。
戰略影響
它可以幫助您將清晰的技術聲明與行銷語言分開。
它可以幫助您將清晰的技術聲明與行銷語言分開。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
在花費金錢或時間之前，您可以提出更好的實施問題。
在花費金錢或時間之前，您可以提出更好的實施問題。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
具有共同理解的團隊可以做出更好的產品、政策和學習決策。
具有共同理解的團隊可以做出更好的產品、政策和學習決策。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
現實世界的實施
在提交 GPU 預算之前，透過一系列小型 1 億參數測試運行來預測計劃的 700 億參數模型的最終損失。
決定收集多少兆個代幣，以便固定的計算預算不會浪費在訓練不足的模型上。
透過小規模擬合縮放曲線而不是全尺寸訓練來比較兩種架構。
透過將損失曲線推斷到目標計算水平，為投資者或資助審核者設定現實的準確性預期。
實施模式
神經網路實踐中的縮放定律
在提交 GPU 預算之前，透過一系列小型 1 億參數測試運行來預測計劃的 700 億參數模型的最終損失。
當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並追蹤一段時間內的生產力提升和錯誤成本時，通常會獲得更好的結果。
神經網路實踐中的縮放定律
決定收集多少兆個代幣，以便固定的計算預算不會浪費在訓練不足的模型上。
當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並追蹤一段時間內的生產力提升和錯誤成本時，通常會獲得更好的結果。
神經網路實踐中的縮放定律
透過小規模擬合縮放曲線而不是全尺寸訓練來比較兩種架構。
當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並追蹤一段時間內的生產力提升和錯誤成本時，通常會獲得更好的結果。
神經網路實踐中的縮放定律
透過將損失曲線推斷到目標計算水平，為投資者或資助審核者設定現實的準確性預期。
當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並追蹤一段時間內的生產力提升和錯誤成本時，通常會獲得更好的結果。
風險與防護欄
不同的團隊可能會以不同的方式使用相同術語，因此請儘早定義範圍。
基準測試可能看起來很強大，但實際效能卻參差不齊。
忽視數據品質和評估計劃通常會產生脆弱的結果。
實施路線圖
從您需要的結果的簡單語言定義開始。
將此視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
在測試之前選擇一種成功指標和一種失敗條件。
將此視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
使用代表性資料運行小型試點，而不是完善的演示集。
將此視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
記錄神經網路縮放定律在哪些方面有幫助以及在哪些方面更簡單的方法更好。
將此視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
不斷探索
Check your understanding
Test yourself: take the Scaling Laws for Neural Networks quiz