引導式測驗 · 中等 等級
梯度下降測驗
回顧簡單的梯度下降方向、學習率步長、取樣梯度、動量、Adam 適應、數值更新和駐點限制。
問題 1 的 8
在一般的梯度下降法中,相對於目標函數的梯度,使用哪個方向?
預覽每個問題8 問題
當您參加測驗時,就會出現答案和解釋。
- 在一般的梯度下降法中,相對於目標函數的梯度,使用哪個方向?
- 負梯度方向
- 正梯度方向
- 根據定義,任意垂直方向
- 未評估任何梯度而選擇的方向
- 學習率控制什麼?
- 模型中的層數
- 模型可以預測多少類
- 優化期間所採取的每個步驟的大小
- 使用的訓練資料量
- 小批量梯度與選定的完整訓練資料目標之間有何關係?
- 它不使用任何範例
- 它在批次上計算,並用作完整資料梯度的估計值
- 它必須在每一步都等於完整資料的梯度
- 它僅存在於影像中
- 學習率太大會導致什麼問題?
- 訓練變得極為緩慢但穩定
- 該模型忽略梯度
- 資料集已損壞
- 模型超出最小值且可能出現偏差
- 動量將什麼資訊帶入後續的梯度下降更新中?
- 僅模型的詞彙大小
- 永久刪除所有先前的梯度
- 先前梯度的加權組合
- 與所有權重無關的隨機重置
- 與普通梯度下降相比,Adam 優化器的關鍵特徵是什麼?
- 它調整每個參數的有效學習率
- 它對每個參數使用單一固定步驟
- 它不需要漸變
- 它只訓練輸出層
- 對於一般的梯度下降法,若舊權重為二、梯度為三、學習率為十分之一,新的權重是多少?
- 二點三
- 一點九七
- 三
- 一點七
- 對於非凸訓練目標,零梯度無法證明什麼?
- 在評估點處的梯度值為零
- 當前點是全域最小值
- 目標函數已在局部進行評估
- 靜止點條件成立