概述
神經架構搜尋（NAS）自動化神經網路結構的設計－讓演算法而不是人類來決定有多少層、什麼操作以及它們如何連接。它將模型設計變成搜尋問題，發現可以與手工製作的架構相媲美或擊敗的架構。
神經架構搜尋位於核心人工智慧工具包。當你理解它時，其他人工智慧主題就變得更容易評估和比較。
深入探討
手動設計神經網路速度很慢且依賴專家的直覺。 NAS 透過在可能架構的定義空間中進行搜尋來取代這種搜索，並以提出候選架構的策略和估計每個架構的好壞的方法為指導。早期的 NAS 使用強化學習或演化演算法，訓練數千個候選網路——眾所周知，要花費數千個 GPU 天。這項突破使搜尋變得更便宜：權重共享（包含所有候選的「超級網」）和 DARTS 等可微分方法，將離散選擇放寬為連續選擇，因此梯度下降可以一起優化架構和權重。 NAS 產生了高效的模型，例如 EfficientNet 和一些現已在生產中使用的行動最佳化網路。
技術洞察
NAS 有三個組成部分：搜尋空間（建構塊及其連接方式）、搜尋策略（強化學習、演化、隨機搜尋或基於梯度）和效能估計方法。單純地訓練每個候選者收斂的成本過高，因此 NAS 使用捷徑：跨超網權重共享、低保真度代理（更少的 epoch、更小的數據）和學習的預測器。 DARTS 透過 softmax 加權混合對「此處進行哪個操作」進行連續離散選擇，使用梯度進行最佳化，然後將結果離散化為最終架構。
掌握神經架構搜尋
神經架構搜尋（NAS）自動化神經網路結構的設計－讓演算法而不是人類來決定有多少層、什麼操作以及它們如何連接。它將模型設計變成搜尋問題，發現可以與手工製作的架構相媲美或擊敗的架構。神經架構搜尋位於核心人工智慧工具包。當你理解它時，其他人工智慧主題就變得更容易評估和比較。為了建立深入的理解，請將神經架構搜尋視為一種操作模型，而不是單一功能：定義期望的結果，澄清假設，並將系統可以可靠地完成的任務與仍需要專家判斷的任務分開。
在實踐中，使用神經架構搜尋的強大團隊首先建立強大的概念模型，然後將這些模型映射到實際的生產限制。他們記錄明確的成功標準，根據實際數據和工作流程進行測試，並根據觀察到的失敗模式而不是一次性基準測試勝利進行迭代。這就是理論理解轉變為跨產品、政策和營運的持久能力的地方。
它可以幫助您將清晰的技術聲明與行銷語言分開。同時，不同的團隊可能會以不同的方式使用相同術語，因此請儘早定義範圍。最具彈性的方法是將實驗速度與治理規則結合：運行試點、捕獲證據、發布決策日誌，並隨著模型行為、使用者期望和監管要求的發展不斷更新保障措施。
戰略影響
它可以幫助您將清晰的技術聲明與行銷語言分開。
它可以幫助您將清晰的技術聲明與行銷語言分開。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
在花費金錢或時間之前，您可以提出更好的實施問題。
在花費金錢或時間之前，您可以提出更好的實施問題。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
具有共同理解的團隊可以做出更好的產品、政策和學習決策。
具有共同理解的團隊可以做出更好的產品、政策和學習決策。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
現實世界的實施
Google 的 EfficientNet 系列，其複合規模架構以自動搜尋為指導，以實現每個浮點運算的高精度。
行動視覺模型（例如 MnasNet）在真實手機上以延遲的方式循環搜尋裝置上的速度。
硬體感知 NAS，可根據特定加速器的記憶體和計算限制客製化網路。
AutoML 平台讓非專家可以透過自動搜尋架構來獲得有競爭力的自訂模型。
實施模式
神經架構搜尋實踐
Google 的 EfficientNet 系列，其複合規模架構以自動搜尋為指導，以實現每個浮點運算的高精度。
Google 的 EfficientNet 系列，其複合規模架構以自動搜尋為指導，以實現每個 FLOP 的強大準確性。當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並隨著時間的推移追蹤生產力增益和錯誤成本時，通常會獲得更好的結果。
神經架構搜尋實踐
行動視覺模型（例如 MnasNet）在真實手機上以延遲的方式循環搜尋裝置上的速度。
行動視覺模型（例如 MnasNet）在真實手機上以延遲方式循環搜尋裝置上的速度。當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並追蹤一段時間內的生產力提升和錯誤成本時，通常會獲得更好的結果。
神經架構搜尋實踐
硬體感知 NAS，可根據特定加速器的記憶體和計算限制客製化網路。
硬體感知 NAS，根據特定加速器的記憶體和運算限制客製化網路當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並追蹤一段時間內的生產力提升和錯誤成本時，通常會獲得更好的結果。
神經架構搜尋實踐
AutoML 平台讓非專家可以透過自動搜尋架構來獲得有競爭力的自訂模型。
AutoML 平台讓非專家可以透過自動搜尋架構來獲得有競爭力的自訂模型。當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並隨著時間的推移追蹤生產力增益和錯誤成本時，通常會獲得更好的結果。
風險與防護欄
不同的團隊可能會以不同的方式使用相同術語，因此請儘早定義範圍。
基準測試可能看起來很強大，但實際效能卻參差不齊。
忽視數據品質和評估計劃通常會產生脆弱的結果。
實施路線圖
從您需要的結果的簡單語言定義開始。
從您需要的結果的簡單語言定義開始。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
在測試之前選擇一種成功指標和一種失敗條件。
在測試之前選擇一種成功指標和一種失敗條件。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
使用代表性資料運行小型試點，而不是完善的演示集。
使用代表性資料運行小型試點，而不是完善的演示集。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
記錄神經架構搜尋在哪些方面有幫助以及在哪些方面更簡單的方法更好。
記錄神經架構搜尋在哪些方面有幫助以及在哪些方面更簡單的方法更好。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。