引導式測驗 · 中等 等級

梯度下降測驗

回顧簡單的梯度下降方向、學習率步長、取樣梯度、動量、Adam 適應、數值更新和駐點限制。

相關引導路徑梯度下降
問題 1 的 8

在一般的梯度下降法中,相對於目標函數的梯度,使用哪個方向?

預覽每個問題8 問題

當您參加測驗時,就會出現答案和解釋。

  1. 在一般的梯度下降法中,相對於目標函數的梯度,使用哪個方向?
    • 負梯度方向
    • 正梯度方向
    • 根據定義,任意垂直方向
    • 未評估任何梯度而選擇的方向
  2. 學習率控制什麼?
    • 模型中的層數
    • 模型可以預測多少類
    • 優化期間所採取的每個步驟的大小
    • 使用的訓練資料量
  3. 小批量梯度與選定的完整訓練資料目標之間有何關係?
    • 它不使用任何範例
    • 它在批次上計算,並用作完整資料梯度的估計值
    • 它必須在每一步都等於完整資料的梯度
    • 它僅存在於影像中
  4. 學習率太大會導致什麼問題?
    • 訓練變得極為緩慢但穩定
    • 該模型忽略梯度
    • 資料集已損壞
    • 模型超出最小值且可能出現偏差
  5. 動量將什麼資訊帶入後續的梯度下降更新中?
    • 僅模型的詞彙大小
    • 永久刪除所有先前的梯度
    • 先前梯度的加權組合
    • 與所有權重無關的隨機重置
  6. 與普通梯度下降相比,Adam 優化器的關鍵特徵是什麼?
    • 它調整每個參數的有效學習率
    • 它對每個參數使用單一固定步驟
    • 它不需要漸變
    • 它只訓練輸出層
  7. 對於一般的梯度下降法,若舊權重為二、梯度為三、學習率為十分之一,新的權重是多少?
    • 二點三
    • 一點九七
    • 三
    • 一點七
  8. 對於非凸訓練目標,零梯度無法證明什麼?
    • 在評估點處的梯度值為零
    • 當前點是全域最小值
    • 目標函數已在局部進行評估
    • 靜止點條件成立