概述
Chinchilla 是 DeepMind 2022 年的一項發現，大多數大型語言模型都嚴重缺乏訓練：對於固定的計算預算，您應該大致相等地擴展參數和數據，而不僅僅是構建更大的模型。它重塑了產業平衡模型大小和訓練資料的方式。
Chinchilla 計算優化訓練位於核心 AI 工具包中。當你理解它時，其他人工智慧主題就變得更容易評估和比較。
深入探討
DeepMind 的 Chinchilla 論文重新審視了縮放比例並訓練了 400 多個模型以找到計算最佳平衡。整體經驗法則：模型大小和訓練標記應同步成長，每個參數約 20 個訓練標記。為了證明這一點，他們在 1.4 兆個代幣上訓練了 Chinchilla，這是一個有 700 億個參數的模型，使用的計算量與在少得多的代幣上訓練的有 2800 億個參數的 Gopher 相同。儘管 Chinchilla 的體積小四倍，但幾乎在所有基準測試中都優於 Gopher、GPT-3 和其他巨頭。這一教訓推翻了先前的 OpenAI 結論，該結論更看重大小而非數據，表明許多旗艦型號由於太大和太缺乏數據而導致性能下降。
技術洞察
Chinchilla 擬合損失為 L(N,D) = E + A·N^(-α) + B·D^(-β)，其中 α 和 β 均接近 0.34，這意味著參數和數據的貢獻幾乎對稱。在固定計算限制下對此進行最佳化（變壓器的計算 ≈ 6·N·D）會產生等比例的結果。較小的、資料豐富的模型在推理時運行起來也更便宜，因此它的優勢在部署方面更加複雜，而不僅僅是訓練。
掌握 Chinchilla 計算優化訓練
Chinchilla 是 DeepMind 2022 年的一項發現，大多數大型語言模型都嚴重缺乏訓練：對於固定的計算預算，您應該大致相等地擴展參數和數據，而不僅僅是構建更大的模型。它重塑了產業平衡模型大小和訓練資料的方式。 Chinchilla 計算優化訓練位於核心 AI 工具包中。當你理解它時，其他人工智慧主題就變得更容易評估和比較。為了建立深入的理解，請將 Chinchilla 計算最優訓練視為一種操作模型，而不是單一功能：定義期望值的結果，澄清假設，並將系統可以可靠地執行的操作與仍需要專家判斷的操作分開。
在實踐中，使用 Chinchilla 計算優化訓練的強大團隊首先建立強大的概念模型，然後將這些模型映射到實際的生產限制。他們記錄明確的成功標準，根據實際數據和工作流程進行測試，並根據觀察到的失敗模式而不是一次性基準測試勝利進行迭代。這就是理論理解轉變為跨產品、政策和營運的持久能力的地方。
它可以幫助您將清晰的技術聲明與行銷語言分開。同時，不同的團隊可能會以不同的方式使用相同術語，因此請儘早定義範圍。最具彈性的方法是將實驗速度與治理規則結合：運行試點、捕獲證據、發布決策日誌，並隨著模型行為、使用者期望和監管要求的發展不斷更新保障措施。
戰略影響
它可以幫助您將清晰的技術聲明與行銷語言分開。
它可以幫助您將清晰的技術聲明與行銷語言分開。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
在花費金錢或時間之前，您可以提出更好的實施問題。
在花費金錢或時間之前，您可以提出更好的實施問題。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
具有共同理解的團隊可以做出更好的產品、政策和學習決策。
具有共同理解的團隊可以做出更好的產品、政策和學習決策。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
現實世界的實施
選擇在 2 兆代幣上訓練 70 億個參數的模型，而不是在相同預算下使用太少的資料訓練 300 億個模型。
估計 100 億個參數的模型需要大約 2000 億個代幣才能達到計算最優的最佳點。
證明較小的部署模型可以削減每個查詢的推理成本，同時與較大競爭對手的品質相符。
審核現有模型並得出其訓練不足的結論，然後規劃更長的訓練運行而不是增加參數。
實施模式
Chinchilla 計算優化訓練實踐
選擇在 2 兆代幣上訓練 70 億個參數的模型，而不是在相同預算下使用太少的資料訓練 300 億個模型。
在相同的預算下，選擇在 2 兆個代幣上訓練 70 億個參數的模型，而不是在太少的資料上訓練 300 億個模型。當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並隨著時間的推移追蹤生產力增益和錯誤成本時，通常會得到更好的結果。
Chinchilla 計算優化訓練實踐
估計 100 億個參數的模型需要大約 2000 億個代幣才能達到計算最優的最佳點。
估計一個 100 億參數的模型需要大約 2000 億個代幣才能達到計算最佳的最佳點。當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並追蹤一段時間內的生產力增益和錯誤成本時，通常會獲得更好的結果。
Chinchilla 計算優化訓練實踐
證明較小的部署模型可以削減每個查詢的推理成本，同時與較大競爭對手的品質相符。
證明較小的部署模型可以削減每個查詢的推理成本，同時匹配較大競爭對手的質量當團隊預先定義質量閾值、為邊緣情況保留人工升級路徑並隨著時間的推移跟踪生產力增益和錯誤成本時，通常會獲得更好的結果。
Chinchilla 計算優化訓練實踐
審核現有模型並得出其訓練不足的結論，然後規劃更長的訓練運行而不是增加參數。
審核現有模型並得出其訓練不足的結論，然後規劃更長的訓練運行而不是增加參數。當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並隨著時間的推移追蹤生產力增益和錯誤成本時，通常會獲得更好的結果。
風險與防護欄
不同的團隊可能會以不同的方式使用相同術語，因此請儘早定義範圍。
基準測試可能看起來很強大，但實際效能卻參差不齊。
忽視數據品質和評估計劃通常會產生脆弱的結果。
實施路線圖
從您需要的結果的簡單語言定義開始。
從您需要的結果的簡單語言定義開始。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
在測試之前選擇一種成功指標和一種失敗條件。
在測試之前選擇一種成功指標和一種失敗條件。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
使用代表性資料運行小型試點，而不是完善的演示集。
使用代表性資料運行小型試點，而不是完善的演示集。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
記錄 Chinchilla 計算優化訓練在哪些方面有幫助以及在哪些方面更簡單的方法更好。
記錄 Chinchilla 計算優化訓練在哪些方面有幫助以及在哪些方面更簡單的方法更好。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。