Questionário vinculado ao guia · Médio Nível

Questionário de gradiente descendente

Revise a direção de descida do gradiente simples, etapas da taxa de aprendizagem, gradientes amostrados, momento, adaptação de Adam, atualizações numéricas e limites de pontos estacionários.

Caminhos de guia relacionadosDescida Gradiente
Pergunta 1 de 8

In plain gradient descent, which direction is used relative to the objective's gradient?

Visualize cada pergunta8 perguntas

As respostas e explicações aparecem conforme você responde ao teste.

  1. In plain gradient descent, which direction is used relative to the objective's gradient?
    • The negative-gradient direction
    • The positive-gradient direction
    • An arbitrary perpendicular direction by definition
    • A direction chosen without evaluating any gradient
  2. O que a taxa de aprendizagem controla?
    • O número de camadas no modelo
    • Quantas classes o modelo pode prever
    • O tamanho de cada etapa realizada durante a otimização
    • A quantidade de dados de treinamento usados
  3. How does a mini-batch gradient relate to the full selected training-data objective?
    • It uses no examples
    • It is computed on the batch and used as an estimate of the full-data gradient
    • It must equal the full-data gradient on every step
    • It only exists for images
  4. Que problema uma taxa de aprendizado muito grande pode causar?
    • O treinamento se torna extremamente lento, mas estável
    • O modelo ignora o gradiente
    • O conjunto de dados foi corrompido
    • O modelo ultrapassa o mínimo e pode divergir
  5. What information does momentum carry into later gradient-descent updates?
    • Only the model's vocabulary size
    • A permanent deletion of all earlier gradients
    • A running weighted combination of earlier gradients
    • An unrelated random reset of every weight
  6. Qual é o principal recurso do otimizador Adam em comparação com a descida gradiente simples?
    • Adapta a taxa efetiva de aprendizagem para cada parâmetro
    • Ele usa uma única etapa fixa para cada parâmetro
    • Não requer gradientes
    • Ele treina apenas a camada de saída
  7. For plain gradient descent with old weight two, gradient three, and learning rate one-tenth, what is the new weight?
    • Two-point-three
    • One-point-nine-seven
    • Três
    • One-point-seven
  8. What does a zero gradient fail to prove for a nonconvex training objective?
    • That the gradient value is zero at the evaluated point
    • That the current point is a global minimum
    • That the objective has been evaluated locally
    • That a stationary-point condition holds