Questionário vinculado ao guia · Difícil Nível

Questionário sobre o fenômeno da descida dupla

Revise a descida dupla perto da interpolação e como o fenômeno pode variar entre o tamanho do modelo, o tamanho do conjunto de dados e a duração do treinamento.

Caminhos de guia relacionadosFenômeno de Dupla Descida
Pergunta 1 de 8

Onde o erro de teste normalmente atinge o pico na curva de descida dupla?

Visualize cada pergunta8 perguntas

As respostas e explicações aparecem conforme você responde ao teste.

  1. Onde o erro de teste normalmente atinge o pico na curva de descida dupla?
    • No limite de interpolação onde o modelo ajusta apenas todos os dados de treinamento
    • Logo no início do treinamento com poucos parâmetros
    • Somente depois de bilhões de parâmetros
    • O erro de teste nunca atinge o pico; cai monotonicamente
  2. O que acontece com o erro de teste quando um modelo se torna excessivamente parametrizado?
    • Ele aumenta indefinidamente devido ao overfitting
    • Pode diminuir novamente, muitas vezes abaixo do mínimo clássico
    • Ele permanece exatamente plano
    • Torna-se aleatório e imprevisível
  3. In which setting does the cited implicit-bias analysis characterize a minimum-norm solution?
    • Any neural network trained with gradient descent
    • Any model that reaches zero training error
    • A single-hidden-layer linear network under stated gradient-flow and initialization assumptions
    • A model trained without an optimization objective
  4. A dupla descida 'em época' refere-se ao efeito que aparece em função de quê?
    • O número de GPUs usadas
    • A programação da taxa de aprendizagem apenas
    • O tamanho do conjunto de teste
    • Tempo de treinamento (número de épocas)
  5. Qual ideia clássica desafia a dupla descida?
    • A compensação entre polarização e variância em forma de U
    • Retropropagação
    • Descida gradiente estocástica
    • A regra da cadeia
  6. Quem ajudou a popularizar e formalizar a curva de dupla descida em 2019?
    • Newton e Leibniz
    • Belkin, Hsu, Ma e Mandal
    • Turing e Igreja
    • Apenas concorrentes anônimos do Kaggle
  7. Which model families did OpenAI report studying in its deep double-descent experiments?
    • Only decision trees and linear regression
    • Only recurrent speech recognizers
    • Convolutional neural networks, ResNets, and transformers
    • Only graphical game generators
  8. Besides model size and training duration, which axis can also show double-descent behavior?
    • Font size in a report
    • The number of words in a product name
    • The screen resolution of a monitor
    • Training dataset size