引導式測驗 · 硬 等級

雙下降現象測驗

查看插值附近的雙重下降以及該現像如何隨模型大小、資料集大小和訓練持續時間而變化。

相關引導路徑雙下降現象
問題 1 的 8

測試誤差通常在雙下降曲線的何處達到高峰?

預覽每個問題8 問題

當您參加測驗時,就會出現答案和解釋。

  1. 測試誤差通常在雙下降曲線的何處達到高峰?
    • 在模型剛好適合所有訓練資料的內插閾值
    • 在訓練一開始時參數很少
    • 只有在數十億個參數之後
    • 測試誤差永遠不會達到峰值;它單調下降
  2. 當模型嚴重過度參數化時,測試錯誤會發生什麼情況?
    • 由於過度擬合而無限上升
    • 它可以再次下降,通常低於經典最小值
    • 它保持完全平坦
    • 它變得隨機且不可預測
  3. In which setting does the cited implicit-bias analysis characterize a minimum-norm solution?
    • Any neural network trained with gradient descent
    • Any model that reaches zero training error
    • A single-hidden-layer linear network under stated gradient-flow and initialization assumptions
    • A model trained without an optimization objective
  4. 「時代明智」的雙重血統是指作為什麼函數出現的效應?
    • 使用的 GPU 數量
    • 僅學習率表
    • 測試集的大小
    • 訓練時間(epoch 數)
  5. 雙血統挑戰了哪一個經典觀念?
    • 偏差-方差 U 型權衡
    • 反向傳播
    • 隨機梯度下降
    • 鍊式法則
  6. 誰在 2019 年幫助普及和規範了雙下降曲線?
    • 牛頓和萊布尼茨
    • 貝爾金、許、馬和曼達爾
    • 圖靈與丘奇
    • 只有匿名的 Kaggle 競爭對手
  7. Which model families did OpenAI report studying in its deep double-descent experiments?
    • Only decision trees and linear regression
    • Only recurrent speech recognizers
    • Convolutional neural networks, ResNets, and transformers
    • Only graphical game generators
  8. Besides model size and training duration, which axis can also show double-descent behavior?
    • Font size in a report
    • The number of words in a product name
    • The screen resolution of a monitor
    • Training dataset size