Descida Gradiente Estocástica com Questionário de Momentum

As respostas e explicações aparecem conforme você responde ao teste.

1. O que o termo impulso acumula durante o treinamento?
   • O número total de épocas de treinamento
   • Uma média contínua (ponderada exponencialmente) de gradientes anteriores
   • O tamanho do conjunto de dados
   • O histórico de precisão do modelo
2. Em uma ravina longa e estreita, que problema o SGD simples sofre e que o impulso ajuda a resolver?
   • Ele transborda numericamente
   • Ele interrompe a computação de gradientes
   • Aumenta a taxa de aprendizagem automaticamente
   • Ele ziguezagueia pelas paredes íngremes enquanto progride lentamente ao longo do chão
3. Um valor padrão comum para o coeficiente de momento é:
   • 0,9
   • 0,0
   • 0,5
   • 2,0
4. Qual analogia física é mais frequentemente usada para descrever o momento?
   • Um pêndulo balançando para sempre
   • Uma mola voltando
   • Uma bola pesada rolando ladeira abaixo
   • Congelamento de água
5. Aproximadamente quanto o momentum amplifica o passo efetivo em uma direção consistente quando beta = 0,9?
   • Cerca de 2 vezes
   • Cerca de 0,1 vezes
   • Sem amplificação
   • Cerca de 10 vezes
6. Qual otimizador moderno incorpora uma estimativa de primeiro momento no estilo momentum?
   • Método de Newton
   • Adão
   • K-meios
   • Pesquisa aleatória
7. In the update v = beta times v plus gradient, what happens when beta is zero?
   • The old velocity is doubled
   • Every gradient becomes zero
   • The previous velocity is discarded and the current gradient determines the step
   • The parameters stop depending on the learning rate
8. Why can repeated gradients with opposing sideways directions produce less zig-zagging under momentum?
   • Their opposing contributions can partially cancel in accumulated velocity
   • All past gradients are stored as separate parameters
   • The loss becomes convex automatically
   • Momentum ignores the current gradient entirely