Questionário vinculado ao guia · Médio Nível

Questionário sobre células de memória de longo e curto prazo

Teste funções de porta LSTM, retenção de estado de célula, controle de entrada e saída, atualizações aditivas, fluxo de gradiente e limites de sequência.

Caminhos de guia relacionadosCélulas de memória de longo prazo
Pergunta 1 de 8

In a common modern three-gate LSTM variant, which gates regulate cell information and exposed output?

Visualize cada pergunta8 perguntas

As respostas e explicações aparecem conforme você responde ao teste.

  1. In a common modern three-gate LSTM variant, which gates regulate cell information and exposed output?
    • Ler, escrever e executar portas
    • Iniciar, parar e pausar portões
    • Esqueça, portas de entrada e saída
    • Codificar, decodificar e atender portões
  2. What training difficulty was LSTM designed to mitigate?
    • Muitos parâmetros para armazenar
    • Vanishing gradients during learning over long sequences
    • Incapacidade de usar uma GPU
    • Falta de uma função de ativação
  3. Quem introduziu o LSTM e em que ano?
    • Vaswani e colegas em 2017
    • Rumelhart e Hinton em 1986
    • LeCun e Bengio em 2012
    • Hochreiter e Schmidhuber em 1997
  4. In a common LSTM cell update, why can the additive cell-state path help gradient flow?
    • It reduces reliance on repeated multiplicative transformations across time steps
    • Ele multiplica o estado por um grande número a cada etapa
    • Ele exclui o estado a cada passo
    • Congela todos os pesos durante o treino
  5. Qual função de ativação as portas LSTM normalmente usam para atuar como interruptores liga/desliga suaves?
    • ReLU, gerando 0 ao infinito
    • Softmax sobre o vocabulário
    • Uma função degrau produzindo exatamente 0 ou 1
    • Sigmóide, produzindo 0 a 1
  6. Por que os Transformers substituíram amplamente os LSTMs na modelagem de linguagem em larga escala?
    • Os transformadores não conseguem lidar com texto
    • LSTMs não requerem treinamento
    • Os transformadores paralelizam uma sequência e capturam o contexto de longo alcance por meio da atenção
    • Os transformadores usam muito menos números no total
  7. If an LSTM forget gate is near one and its input gate near zero, what happens to the cell state?
    • It largely retains the previous state
    • It is forced to zero
    • It becomes the raw input token
    • It must reverse the sequence
  8. Which gate controls how much of an LSTM cell’s stored state is exposed as output?
    • The forget gate alone
    • The output gate
    • The optimizer momentum term
    • The positional encoding gate