引导式测验 · 中等 等级

超参数调优测验

检查超参数与权重、基于验证的搜索、随机和贝叶斯方法、Hyperband 和测试集泄漏。

相关引导路径超参数调优
问题 1 的 8

超参数与常规模型参数有何区别？

预览每个问题8 问题

当您参加测验时，就会出现答案和解释。

  1. 超参数与常规模型参数有何区别？
    • 超参数是在训练之前设置的，不是直接从数据中学习的
    • 超参数是在训练期间通过梯度下降自动学习的
    • 超参数仅存在于线性模型中
    • 它们之间没有真正的区别
  2. 哪个通常被认为是深度学习中最有影响力的超参数调整？
    • 随机种子
    • 学习率
    • 数据集的文件格式
    • 优化器变量的名称
  3. 为什么随机搜索在超参数调整方面通常优于网格搜索？
    • 它总是尝试更多的总组合
    • 它不需要验证集
    • 它更有效地对空间进行采样，找到好的值，而无需详尽地覆盖每个网格点
    • 它同时学习权重和超参数
  4. 贝叶斯优化如何选择下一步要尝试的超参数配置？
    • 它每次都完全随机选择配置
    • 它总是选择层数最多的配置
    • 它完全复制了之前试用的设置
    • 它构建了一个模型，其中的设置看起来很有希望，并在探索不确定性与利用良好结果之间取得平衡
  5. 为什么最终测试集在超参数调整期间必须保持不变？
    • 因为针对它进行调整会泄漏信息并对实际性能给出过于乐观的估计
    • 因为测试集是用来计算权重的
    • 因为测试集总是小于验证集
    • 因为超参数存储在测试集中
  6. 像Hyperband这样的提前停止方案在超参数调优中解决了什么问题？
    • 它消除了对学习率的需要
    • 它通过尽早终止表现不佳的试验并向有前途的试验提供资源来节省计算量
    • 它保证模型不会过拟合
    • 它将超参数转换为可学习的参数
  7. In Bayesian hyperparameter optimization, what role does the probabilistic surrogate model play?
    • It replaces training every candidate with a guaranteed exact score
    • It updates model weights during the final test
    • It estimates how promising configurations may be and guides the next trial
    • It labels the training examples
  8. Why should tuning trials be compared on a validation set rather than the final test set?
    • The test set cannot contain labels
    • The validation set is always larger
    • The model cannot predict on a test set
    • Repeated test-set feedback would leak information and make the final estimate overoptimistic