Mit dem Guide verknüpftes Quiz · Mittel Ebene

Quiz zu Zellen des Langzeitgedächtnisses

Testen Sie LSTM-Gate-Rollen, Beibehaltung des Zellzustands, Eingabe- und Ausgabekontrolle, additive Aktualisierungen, Gradientenfluss und Sequenzgrenzen.

Verwandte FührungspfadeLangfristige Gedächtniszellen
Frage 1 von 8

In a common modern three-gate LSTM variant, which gates regulate cell information and exposed output?

Sehen Sie sich jede Frage in der Vorschau an8 Fragen

Während Sie am Quiz teilnehmen, werden Antworten und Erklärungen angezeigt.

  1. In a common modern three-gate LSTM variant, which gates regulate cell information and exposed output?
    • Gates lesen, schreiben und ausführen
    • Tore starten, stoppen und pausieren
    • Vergessens-, Eingabe- und Ausgabegatter
    • Kodieren, dekodieren und bedienen Sie Gates
  2. What training difficulty was LSTM designed to mitigate?
    • Zu viele Parameter zum Speichern
    • Vanishing gradients during learning over long sequences
    • Unfähigkeit, eine GPU zu verwenden
    • Fehlende Aktivierungsfunktion
  3. Wer hat das LSTM eingeführt und in welchem Jahr?
    • Vaswani und Kollegen im Jahr 2017
    • Rumelhart und Hinton im Jahr 1986
    • LeCun und Bengio im Jahr 2012
    • Hochreiter und Schmidhuber im Jahr 1997
  4. In a common LSTM cell update, why can the additive cell-state path help gradient flow?
    • It reduces reliance on repeated multiplicative transformations across time steps
    • Es multipliziert den Zustand bei jedem Schritt mit einer großen Zahl
    • Der Status wird bei jedem Schritt gelöscht
    • Es friert alle Gewichte während des Trainings ein
  5. Welche Aktivierungsfunktion verwenden LSTM-Gates normalerweise, um als sanfte Ein-/Ausschalter zu fungieren?
    • ReLU gibt 0 bis unendlich aus
    • Softmax über den Wortschatz
    • Eine Schrittfunktion, die genau 0 oder 1 ausgibt
    • Sigmoid, Ausgabe von 0 bis 1
  6. Warum haben Transformers LSTMs für die groß angelegte Sprachmodellierung weitgehend ersetzt?
    • Transformer können überhaupt nicht mit Text umgehen
    • LSTMs erfordern keine Schulung
    • Transformatoren arbeiten über eine Sequenz hinweg parallel und erfassen durch Aufmerksamkeit einen weitreichenden Kontext
    • Transformatoren verwenden insgesamt weit weniger Zahlen
  7. If an LSTM forget gate is near one and its input gate near zero, what happens to the cell state?
    • It largely retains the previous state
    • It is forced to zero
    • It becomes the raw input token
    • It must reverse the sequence
  8. Which gate controls how much of an LSTM cell’s stored state is exposed as output?
    • The forget gate alone
    • The output gate
    • The optimizer momentum term
    • The positional encoding gate