引導式測驗 · 硬 等級
雙下降現象測驗
查看插值附近的雙重下降以及該現像如何隨模型大小、資料集大小和訓練持續時間而變化。
問題 1 的 8
測試誤差通常在雙下降曲線的何處達到高峰?
預覽每個問題8 問題
當您參加測驗時,就會出現答案和解釋。
- 測試誤差通常在雙下降曲線的何處達到高峰?
- 在模型剛好適合所有訓練資料的內插閾值
- 在訓練一開始時參數很少
- 只有在數十億個參數之後
- 測試誤差永遠不會達到峰值;它單調下降
- 當模型嚴重過度參數化時,測試錯誤會發生什麼情況?
- 由於過度擬合而無限上升
- 它可以再次下降,通常低於經典最小值
- 它保持完全平坦
- 它變得隨機且不可預測
- In which setting does the cited implicit-bias analysis characterize a minimum-norm solution?
- Any neural network trained with gradient descent
- Any model that reaches zero training error
- A single-hidden-layer linear network under stated gradient-flow and initialization assumptions
- A model trained without an optimization objective
- 「時代明智」的雙重血統是指作為什麼函數出現的效應?
- 使用的 GPU 數量
- 僅學習率表
- 測試集的大小
- 訓練時間(epoch 數)
- 雙血統挑戰了哪一個經典觀念?
- 偏差-方差 U 型權衡
- 反向傳播
- 隨機梯度下降
- 鍊式法則
- 誰在 2019 年幫助普及和規範了雙下降曲線?
- 牛頓和萊布尼茨
- 貝爾金、許、馬和曼達爾
- 圖靈與丘奇
- 只有匿名的 Kaggle 競爭對手
- Which model families did OpenAI report studying in its deep double-descent experiments?
- Only decision trees and linear regression
- Only recurrent speech recognizers
- Convolutional neural networks, ResNets, and transformers
- Only graphical game generators
- Besides model size and training duration, which axis can also show double-descent behavior?
- Font size in a report
- The number of words in a product name
- The screen resolution of a monitor
- Training dataset size