概述
Dropout 是一種正規化技巧，它在每個訓練步驟中隨機關閉一小部分神經元，迫使網路建立冗餘、魯棒的表示。它成為深度學習中對抗過度擬合最有影響力的技術之一。
Dropout 和隨機正規化位於核心 AI 工具包中。當你理解它時，其他人工智慧主題就變得更容易評估和比較。
深入探討
Dropout 由 Hinton 團隊於 2012 年左右提出，解決了大型網路的關鍵弱點：神經元可以共同適應，學習以僅適用於訓練資料的方式修復彼此的錯誤。在訓練期間的每次前向傳遞中，dropout 都會以某個機率 p（在密集層中通常為 0.5）隨機將每個神經元的輸出設為零。由於任何神經元都可能消失，因此網路不能依賴脆弱的夥伴關係，並且必須在許多單元之間傳播有用的信息。這就像訓練一個共享權重的稀疏網路的巨大集合。在測試時，dropout 被關閉，並使用完整的網絡，並縮放啟動值，以便預期的輸出與訓練相符。結果通常是更好的泛化，但代價是訓練時間稍長。
技術洞察
在訓練期間，每個單元透過隨機二進位遮罩保持機率（1 減 p），因此每批都會對不同的子網路進行取樣。現代框架使用反向 dropout：在訓練時倖存的激活除以 (1 - p)，因此推理時不需要縮放。這種隨機性會注入噪音，阻礙共同適應，並在指數數量的共享權重子網路上近似平均，這是一種廉價的整合形式。
掌握 Dropout 和隨機正規化
Dropout 是一種正規化技巧，它在每個訓練步驟中隨機關閉一小部分神經元，迫使網路建立冗餘、魯棒的表示。它成為深度學習中對抗過度擬合最有影響力的技術之一。 Dropout 和隨機正規化位於核心 AI 工具包中。當你理解它時，其他人工智慧主題就變得更容易評估和比較。為了建立深入的理解，請將 Dropout 和隨機正則化視為一種操作模型，而不是單一功能：定義期望的結果，澄清假設，並將系統可以可靠地執行的操作與仍需要專家判斷的操作分開。
在實踐中，使用 Dropout 和隨機正則化的強大團隊首先建立強大的概念模型，然後將這些模型對應到實際的生產限制。他們記錄明確的成功標準，根據實際數據和工作流程進行測試，並根據觀察到的失敗模式而不是一次性基準測試勝利進行迭代。這就是理論理解轉變為跨產品、政策和營運的持久能力的地方。
它可以幫助您將清晰的技術聲明與行銷語言分開。同時，不同的團隊可能會以不同的方式使用相同術語，因此請儘早定義範圍。最具彈性的方法是將實驗速度與治理規則結合：運行試點、捕獲證據、發布決策日誌，並隨著模型行為、使用者期望和監管要求的發展不斷更新保障措施。
戰略影響
它可以幫助您將清晰的技術聲明與行銷語言分開。
它可以幫助您將清晰的技術聲明與行銷語言分開。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
在花費金錢或時間之前，您可以提出更好的實施問題。
在花費金錢或時間之前，您可以提出更好的實施問題。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
具有共同理解的團隊可以做出更好的產品、政策和學習決策。
具有共同理解的團隊可以做出更好的產品、政策和學習決策。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
現實世界的實施
在 PyTorch 或 Keras 中的圖像或文字分類器的密集層之間添加 p 約為 0.5 的 Dropout 層
Transformer 模型在預訓練期間將 dropout 應用於注意力權重和前饋激活
蒙特卡羅 dropout，其中 dropout 在推理時保持不變，以產生醫療或安全關鍵預測的不確定性估計
隨機深度 (DropPath) 隨機跳過殘差區塊以規範 ResNet 和視覺 Transformer 等非常深的網絡
實施模式
Dropout 和隨機正規化實踐
在 PyTorch 或 Keras 中的圖像或文字分類器的密集層之間添加 p 約為 0.5 的 Dropout 層。
在 PyTorch 或 Keras 團隊中的圖像或文字分類器的密集層之間添加 p 約為 0.5 的 Dropout 層，當他們預先定義品質閾值、為邊緣情況保留人工升級路徑並隨著時間的推移跟踪生產力增益和錯誤成本時，通常會獲得更好的結果。
Dropout 和隨機正規化實踐
Transformer 模型在預訓練期間將 dropout 應用於注意力權重和前饋活化。
Transformer 模型在預訓練期間將 dropout 應用於注意力權重和前饋活化。當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並隨著時間的推移追蹤生產力增益和錯誤成本時，通常會得到更好的結果。
Dropout 和隨機正規化實踐
蒙特卡洛退出，退出在推理中保持不變，以產生醫療或安全關鍵預測的不確定性估計。
蒙特卡羅退出，退出在推理過程中保持不變，以產生醫療或安全關鍵預測的不確定性估計。當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並隨著時間的推移追蹤生產力增益和錯誤成本時，通常會得到更好的結果。
Dropout 和隨機正規化實踐
隨機深度 (DropPath) 隨機跳過殘差區塊來規範 ResNet 和視覺 Transformer 等非常深的網路。
隨機深度 (DropPath) 隨機跳過殘差區塊來規範 ResNet 和視覺轉換器等非常深的網路。當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並隨著時間的推移追蹤生產力增益和錯誤成本時，通常會獲得更好的結果。
風險與防護欄
不同的團隊可能會以不同的方式使用相同術語，因此請儘早定義範圍。
基準測試可能看起來很強大，但實際效能卻參差不齊。
忽視數據品質和評估計劃通常會產生脆弱的結果。
實施路線圖
從您需要的結果的簡單語言定義開始。
從您需要的結果的簡單語言定義開始。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
在測試之前選擇一種成功指標和一種失敗條件。
在測試之前選擇一種成功指標和一種失敗條件。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
使用代表性資料運行小型試點，而不是完善的演示集。
使用代表性資料運行小型試點，而不是完善的演示集。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
記錄 Dropout 和隨機正規化在哪些方面有幫助，以及哪些更簡單的方法更好。
記錄 Dropout 和隨機正規化在哪些方面有幫助，以及哪些更簡單的方法更好。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。