Kvíz spojený s průvodcem · Střední úroveň

Kvíz o modelech sekvencí k sekvencím

Zjistěte, jak modely kodér-dekodér mapují vstupní sekvence na různě dlouhé výstupy pomocí mechanismů pozornosti a křížové pozornosti.

Související vodicí cestySekvenční modely
Otázka 1 z 8

Jaké jsou dvě hlavní součásti modelu sekvence-posloupnosti?

Náhled každé otázky8 otázky

Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.

  1. Jaké jsou dvě hlavní součásti modelu sekvence-posloupnosti?
    • Kodér a dekodér
    • Tokenizér a klasifikátor
    • Dva identické kodéry
    • Filtr a žebříček
  2. Jaký klíčový problém vyřešil mechanismus pozornosti v modelech seq2seq?
    • Pomalá tokenizace
    • Vektorové úzké hrdlo s pevnou délkou pro dlouhé vstupy
    • Nedostatek slovní zásoby
    • Nadměrné tréninkové údaje
  3. Jakou architekturu používal původní model překladu seq2seq z roku 2014?
    • Konvoluční sítě
    • Rozhodovací stromy
    • Naskládané LSTM
    • Holé dopředné vrstvy
  4. Jak pozornost vytváří kontext pro každý krok dekódování?
    • Rovnoměrným zprůměrováním všech vstupních tokenů
    • Úplným ignorováním kodéru
    • Zkopírováním posledního vstupního tokenu
    • Váženým součtem stavů kodéru pomocí skóre zarovnání
  5. Proč se mohou výstupy seq2seq lišit délkou od vstupů?
    • Dekodér generuje tokeny, dokud nevyšle signál stop
    • Vstupy a výstupy jsou vždy stejně dlouhé
    • Kodér vše podloží
    • Délka je předem stanovena
  6. Které moderní modely jsou populární architektury seq2seq založené na transformátoru?
    • ResNet a VGG
    • T5 a BART
    • K-means a PCA
    • Word2Vec a GloVe
  7. In encoder-decoder attention, which representations are commonly used as keys and values?
    • Only the decoder’s future hidden states
    • The vocabulary file’s byte offsets
    • The encoder’s output representations
    • The optimizer’s learning-rate history
  8. What does a bidirectional encoder provide to an attention-based decoder?
    • A fixed one-token output regardless of the input
    • A guarantee that output length equals input length
    • A causal mask over future target tokens
    • Contextual representations of source tokens that can use information from both directions