Quiz lié à un guide · Moyen Niveau

Quiz sur les cellules mémoire à long terme et à court terme

Testez les rôles de porte LSTM, la rétention de l'état des cellules, le contrôle des entrées et des sorties, les mises à jour additives, le flux de gradient et les limites de séquence.

Chemins de guidage associésCellules de mémoire à long terme et à court terme
Question 1 de 8

In a common modern three-gate LSTM variant, which gates regulate cell information and exposed output?

Prévisualisez chaque question8 des questions

Les réponses et les explications apparaissent au fur et à mesure que vous répondez au quiz.

  1. In a common modern three-gate LSTM variant, which gates regulate cell information and exposed output?
    • Lire, écrire et exécuter des portes
    • Démarrage, arrêt et pause des portes
    • Portes d'oubli, d'entrée et de sortie
    • Encodez, décodez et assistez aux portes
  2. What training difficulty was LSTM designed to mitigate?
    • Trop de paramètres à stocker
    • Vanishing gradients during learning over long sequences
    • Impossibilité d'utiliser un GPU
    • Absence de fonction d'activation
  3. Qui a introduit le LSTM et en quelle année ?
    • Vaswani et ses collègues en 2017
    • Rumelhart et Hinton en 1986
    • LeCun et Bengio en 2012
    • Hochreiter et Schmidhuber en 1997
  4. In a common LSTM cell update, why can the additive cell-state path help gradient flow?
    • It reduces reliance on repeated multiplicative transformations across time steps
    • Il multiplie l'état par un grand nombre à chaque étape
    • Il supprime l'état à chaque étape
    • Il gèle tous les poids pendant l'entraînement
  5. Quelle fonction d'activation les portails LSTM utilisent-ils généralement pour agir comme des interrupteurs marche/arrêt progressifs ?
    • ReLU, produisant 0 à l'infini
    • Softmax sur le vocabulaire
    • Une fonction échelonnée produisant exactement 0 ou 1
    • Sigmoïde, produisant 0 à 1
  6. Pourquoi Transformers a-t-il largement remplacé les LSTM pour la modélisation de langage à grande échelle ?
    • Les transformateurs ne peuvent pas du tout gérer le texte
    • Les LSTM ne nécessitent aucune formation
    • Les transformateurs se parallélisent sur une séquence et capturent le contexte à longue portée via l'attention
    • Les transformateurs utilisent beaucoup moins de nombres au total
  7. If an LSTM forget gate is near one and its input gate near zero, what happens to the cell state?
    • It largely retains the previous state
    • It is forced to zero
    • It becomes the raw input token
    • It must reverse the sequence
  8. Which gate controls how much of an LSTM cell’s stored state is exposed as output?
    • The forget gate alone
    • The output gate
    • The optimizer momentum term
    • The positional encoding gate