Gids-gekoppelde quiz · Middelmatig Niveau

ELMo Contextuele inbeddingsquiz

Bekijk hoe het bidirectionele taalmodel van ELMo contextgevoelige woordvectoren creëert en terugkerende lagen combineert voor stroomafwaartse taken.

Gerelateerde gidspadenElmo contextuele inbedding
Vraag 1 van 8

Wat is het belangrijkste verschil tussen ELMo en eerdere inbedding zoals Word2Vec?

Bekijk elke vraag8 vragen

Antwoorden en uitleg verschijnen terwijl je de quiz doet.

  1. Wat is het belangrijkste verschil tussen ELMo en eerdere inbedding zoals Word2Vec?
    • ELMo geeft hetzelfde woord verschillende vectoren, afhankelijk van de zinscontext
    • ELMo gebruikt kleinere vectoren
    • ELMo werkt alleen met losse woorden, niet met zinnen
    • ELMo heeft geen trainingsgegevens nodig
  2. Welke neurale architectuur gebruikt ELMo om tekst te lezen?
    • Een Transformer met zelfaandacht
    • Een diep bidirectioneel LSTM-taalmodel
    • Een convolutioneel beeldnetwerk
    • Een eenvoudig feedforward-netwerk
  3. Hoe combineert ELMo zijn interne lagen voor een stroomafwaartse taak?
    • Er wordt alleen gebruik gemaakt van de laatste toplaag
    • Het middelt alle lagen gelijk en fixeert het resultaat
    • Er wordt gebruik gemaakt van aangeleerde, taakspecifieke gewogen combinaties van alle lagen
    • Er wordt elke keer willekeurig één laag gekozen
  4. Wat gebruikt ELMo als invoereenheden om onzichtbare woorden te verwerken?
    • Alleen zoeken op hele woorden
    • Vaste woordenboek-ID's
    • Byte-paar-gecodeerde subwoorden van BERT
    • CNN-representaties op karakterniveau
  5. Wanneer is ELMo ongeveer geïntroduceerd en door wie?
    • 2018, door Allen Institute for AI-onderzoekers
    • 2013, door het Word2Vec-team van Google
    • 2020, tegen OpenAI
    • 2015, door Facebook-AI
  6. Which corpus was used to train the bidirectional language model described in the ELMo paper?
    • The One Billion Word Benchmark
    • The Penn Treebank only
    • A corpus of labeled images
    • The GloVe Common Crawl vectors
  7. What language-model prediction does ELMo's forward LSTM learn?
    • Predicting the previous word from future context
    • Assigning a fixed vector to every document
    • Predicting the next word from the preceding context
    • Predicting a sentence's image resolution
  8. What linguistic information do ELMo's lower and higher LSTM layers tend to capture?
    • Lower layers encode image color, while higher layers encode audio pitch
    • Every layer stores only word frequency and ignores context
    • Higher layers are always limited to punctuation prediction
    • Lower layers tend toward syntax, while higher layers capture more context-dependent semantics