Mit dem Guide verknüpftes Quiz · Mittel Ebene

ELMo Kontextuelle Einbettungen-Quiz

Sehen Sie sich an, wie das bidirektionale Sprachmodell von ELMo kontextsensitive Wortvektoren erstellt und wiederkehrende Schichten für nachgelagerte Aufgaben kombiniert.

Verwandte FührungspfadeKontextuelle Einbettungen von Elmo
Frage 1 von 8

Was ist der Hauptunterschied zwischen ELMo und früheren Einbettungen wie Word2Vec?

Sehen Sie sich jede Frage in der Vorschau an8 Fragen

Während Sie am Quiz teilnehmen, werden Antworten und Erklärungen angezeigt.

  1. Was ist der Hauptunterschied zwischen ELMo und früheren Einbettungen wie Word2Vec?
    • ELMo gibt demselben Wort je nach Satzkontext unterschiedliche Vektoren
    • ELMo verwendet kleinere Vektoren
    • ELMo funktioniert nur mit einzelnen Wörtern, nicht mit Sätzen
    • ELMo benötigt keine Trainingsdaten
  2. Welche neuronale Architektur verwendet ELMo zum Lesen von Text?
    • Ein Transformer mit Selbstaufmerksamkeit
    • Ein tiefes bidirektionales LSTM-Sprachmodell
    • Ein Faltungsbildnetzwerk
    • Ein einfaches Feedforward-Netzwerk
  3. Wie kombiniert ELMo seine internen Schichten für eine nachgelagerte Aufgabe?
    • Es wird nur die letzte oberste Schicht verwendet
    • Es mittelt alle Schichten gleichermaßen und korrigiert das Ergebnis
    • Es nutzt erlernte, aufgabenspezifisch gewichtete Kombinationen aller Schichten
    • Es wählt jedes Mal zufällig eine Ebene aus
  4. Welche Eingabeeinheiten verwendet ELMo zur Verarbeitung unsichtbarer Wörter?
    • Nur Suche nach ganzen Wörtern
    • Wörterbuch-IDs korrigiert
    • Bytepaar-codierte Teilwörter von BERT
    • CNN-Darstellungen auf Zeichenebene
  5. Wann wurde ELMo ungefähr eingeführt und von wem?
    • 2018, vom Allen Institute für KI-Forscher
    • 2013, vom Word2Vec-Team von Google
    • 2020, von OpenAI
    • 2015, von Facebook AI
  6. Which corpus was used to train the bidirectional language model described in the ELMo paper?
    • The One Billion Word Benchmark
    • The Penn Treebank only
    • A corpus of labeled images
    • The GloVe Common Crawl vectors
  7. What language-model prediction does ELMo's forward LSTM learn?
    • Predicting the previous word from future context
    • Assigning a fixed vector to every document
    • Predicting the next word from the preceding context
    • Predicting a sentence's image resolution
  8. What linguistic information do ELMo's lower and higher LSTM layers tend to capture?
    • Lower layers encode image color, while higher layers encode audio pitch
    • Every layer stores only word frequency and ignores context
    • Higher layers are always limited to punctuation prediction
    • Lower layers tend toward syntax, while higher layers capture more context-dependent semantics