Mit dem Guide verknüpftes Quiz · Mittel Ebene

Quiz zu Sequenz-zu-Sequenz-Modellen

Erfahren Sie, wie Encoder-Decoder-Modelle mithilfe von Aufmerksamkeits- und Kreuzaufmerksamkeitsmechanismen Eingabesequenzen auf Ausgaben unterschiedlicher Länge zuordnen.

Verwandte FührungspfadeSequenz-zu-Sequenz-Modelle
Frage 1 von 8

Was sind die beiden Hauptkomponenten eines Sequenz-zu-Sequenz-Modells?

Sehen Sie sich jede Frage in der Vorschau an8 Fragen

Während Sie am Quiz teilnehmen, werden Antworten und Erklärungen angezeigt.

  1. Was sind die beiden Hauptkomponenten eines Sequenz-zu-Sequenz-Modells?
    • Ein Encoder und ein Decoder
    • Ein Tokenizer und ein Klassifikator
    • Zwei identische Encoder
    • Ein Filter und ein Ranking
  2. Welches Schlüsselproblem löste der Aufmerksamkeitsmechanismus in seq2seq-Modellen?
    • Langsame Tokenisierung
    • Der Vektorengpass mit fester Länge für lange Eingaben
    • Fehlender Wortschatz
    • Zu viele Trainingsdaten
  3. Welche Architektur verwendete das ursprüngliche seq2seq-Übersetzungsmodell von 2014?
    • Faltungsnetzwerke
    • Entscheidungsbäume
    • Gestapelte LSTMs
    • Nackte Feed-Forward-Schichten
  4. Wie baut die Aufmerksamkeit den Kontext für jeden Dekodierungsschritt auf?
    • Durch gleichmäßige Mittelung aller Eingabe-Tokens
    • Indem man den Encoder völlig ignoriert
    • Durch Kopieren des letzten Eingabetokens
    • Durch eine gewichtete Summe von Encoderzuständen unter Verwendung von Ausrichtungswerten
  5. Warum können sich seq2seq-Ausgaben in der Länge von Eingaben unterscheiden?
    • Der Decoder generiert so lange Token, bis er ein Stoppsignal aussendet
    • Ein- und Ausgänge sind immer gleich lang
    • Der Encoder füllt alles auf
    • Die Länge wird im Voraus festgelegt
  6. Welche modernen Modelle sind beliebte Transformer-basierte seq2seq-Architekturen?
    • ResNet und VGG
    • T5 und BART
    • K-Mittel und PCA
    • Word2Vec und GloVe
  7. In encoder-decoder attention, which representations are commonly used as keys and values?
    • Only the decoder’s future hidden states
    • The vocabulary file’s byte offsets
    • The encoder’s output representations
    • The optimizer’s learning-rate history
  8. What does a bidirectional encoder provide to an attention-based decoder?
    • A fixed one-token output regardless of the input
    • A guarantee that output length equals input length
    • A causal mask over future target tokens
    • Contextual representations of source tokens that can use information from both directions