概述
貝葉斯深度學習將神經網路的權重視為機率分佈而不是固定數字，因此模型可以說出它的置信度。這對於高風險用途（醫藥、自動駕駛汽車、金融）很重要，在這些用途中，「我不確定」是一個至關重要的答案。
貝葉斯深度學習位於核心人工智慧工具包。當你理解它時，其他人工智慧主題就變得更容易評估和比較。
深入探討
標準神經網路為每個權重學習一個固定值；相反，貝葉斯神經網路學習每個權重的分佈，捕捉正確值的不確定性。預測成為許多合理網路的平均值，這自然會產生一個置信範圍，而不僅僅是一個點答案。由於計算數百萬個權重的精確後驗是困難的，因此從業者使用近似：變分推理（將更簡單的分佈擬合到真實後驗）、馬可夫鏈蒙特卡羅（樣本權重設定）或像蒙特卡羅 dropout 這樣的廉價技巧，它在測試時保留 dropout 並運行網絡多次。回報是校準的不確定性——模型知道它的輸入何時不熟悉（超出分佈），並且可以標記它而不是自信地猜測。
技術洞察
貝葉斯方法區分兩種不確定性：任意（資料中不可減少的雜訊）和認知（模型本身的無知，更多的資料可以減少）。變分推理將後驗估計重新建構為最佳化，透過 ELBO 目標最小化近似後驗和真實後驗之間的 KL 散度。蒙特卡羅 dropout 是一種實用的捷徑，它將 dropout 解釋為近似貝葉斯推理：在 dropout 處於活動狀態的情況下運行網路 N 次，輸出的分佈估計認知不確定性。
Mastering Bayesian Deep Learning
貝葉斯深度學習將神經網路的權重視為機率分佈而不是固定數字，因此模型可以說出它的置信度。這對於高風險用途（醫藥、自動駕駛汽車、金融）很重要，在這些用途中，「我不確定」是一個至關重要的答案。貝葉斯深度學習位於核心人工智慧工具包。當你理解它時，其他人工智慧主題就變得更容易評估和比較。為了建立深入的理解，請將貝葉斯深度學習視為一種操作模型，而不是單一功能：定義期望的結果，澄清假設，並將系統可以可靠地完成的任務與仍需要專家判斷的任務分開。
在實踐中，使用貝葉斯深度學習的強大團隊首先建立強大的概念模型，然後將這些模型映射到實際的生產限制。他們記錄明確的成功標準，根據實際數據和工作流程進行測試，並根據觀察到的失敗模式而不是一次性基準測試勝利進行迭代。這就是理論理解轉變為跨產品、政策和營運的持久能力的地方。
它可以幫助您將清晰的技術聲明與行銷語言分開。同時，不同的團隊可能會以不同的方式使用相同術語，因此請儘早定義範圍。最具彈性的方法是將實驗速度與治理規則結合：運行試點、捕獲證據、發布決策日誌，並隨著模型行為、使用者期望和監管要求的發展不斷更新保障措施。
戰略影響
它可以幫助您將清晰的技術聲明與行銷語言分開。
它可以幫助您將清晰的技術聲明與行銷語言分開。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
在花費金錢或時間之前，您可以提出更好的實施問題。
在花費金錢或時間之前，您可以提出更好的實施問題。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
具有共同理解的團隊可以做出更好的產品、政策和學習決策。
具有共同理解的團隊可以做出更好的產品、政策和學習決策。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
現實世界的實施
醫學影像系統為每個診斷附加置信度，並將不確定的掃描發送給人類放射科醫生。
自動駕駛感知將不熟悉的物體標記為高度不確定性，因此汽車會謹慎駕駛，而不是自信地錯誤分類它。
偵測詐欺或安全系統中的分佈外輸入，其中異常資料應引發謹慎而不是自信的決策。
貝葉斯優化透過平衡不確定區域和已知良好區域的探索來調整藥物配方或機器學習超參數。
實施模式
Bayesian Deep Learning in practice
醫學影像系統為每個診斷附加置信度，並將不確定的掃描發送給人類放射科醫生。
醫學影像系統為每個診斷附加置信度，並將不確定的掃描路由給人類放射科醫生。當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並追蹤一段時間內的生產力增益和錯誤成本時，通常會得到更好的結果。
Bayesian Deep Learning in practice
自動駕駛感知將不熟悉的物體標記為高度不確定性，因此汽車會謹慎駕駛，而不是自信地錯誤分類它。
自動駕駛感知將不熟悉的物體標記為高度不確定性，因此汽車會謹慎駕駛，而不是自信地對其進行錯誤分類。當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並隨著時間的推移追蹤生產力增益和錯誤成本時，通常會得到更好的結果。
Bayesian Deep Learning in practice
偵測詐欺或安全系統中的分佈外輸入，其中異常資料應引發謹慎而不是自信的決策。
偵測詐欺或安全系統中的分佈外輸入，其中異常資料應該引發謹慎而不是自信的決策。當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並隨著時間的推移追蹤生產力增益和錯誤成本時，通常會得到更好的結果。
Bayesian Deep Learning in practice
貝葉斯優化透過平衡不確定區域和已知良好區域的探索來調整藥物配方或機器學習超參數。
透過平衡對不確定區域的探索與已知良好區域的貝葉斯優化調整藥物配方或機器學習超參數當團隊預先定義質量閾值、為邊緣情況保留人工升級路徑並隨著時間的推移跟踪生產力增益和錯誤成本時，通常會獲得更好的結果。
風險與防護欄
不同的團隊可能會以不同的方式使用相同術語，因此請儘早定義範圍。
基準測試可能看起來很強大，但實際效能卻參差不齊。
忽視數據品質和評估計劃通常會產生脆弱的結果。
實施路線圖
從您需要的結果的簡單語言定義開始。
從您需要的結果的簡單語言定義開始。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
在測試之前選擇一種成功指標和一種失敗條件。
在測試之前選擇一種成功指標和一種失敗條件。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
使用代表性資料運行小型試點，而不是完善的演示集。
使用代表性資料運行小型試點，而不是完善的演示集。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
記錄貝葉斯深度學習在哪些方面有幫助以及在哪些方面更簡單的方法更好。
記錄貝葉斯深度學習在哪些方面有幫助以及在哪些方面更簡單的方法更好。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。