Gids-gekoppelde quiz · Middelmatig Niveau
ELMo Contextuele inbeddingsquiz
Bekijk hoe het bidirectionele taalmodel van ELMo contextgevoelige woordvectoren creëert en terugkerende lagen combineert voor stroomafwaartse taken.
Vraag 1 van 8
Wat is het belangrijkste verschil tussen ELMo en eerdere inbedding zoals Word2Vec?
Bekijk elke vraag8 vragen
Antwoorden en uitleg verschijnen terwijl je de quiz doet.
- Wat is het belangrijkste verschil tussen ELMo en eerdere inbedding zoals Word2Vec?
- ELMo geeft hetzelfde woord verschillende vectoren, afhankelijk van de zinscontext
- ELMo gebruikt kleinere vectoren
- ELMo werkt alleen met losse woorden, niet met zinnen
- ELMo heeft geen trainingsgegevens nodig
- Welke neurale architectuur gebruikt ELMo om tekst te lezen?
- Een Transformer met zelfaandacht
- Een diep bidirectioneel LSTM-taalmodel
- Een convolutioneel beeldnetwerk
- Een eenvoudig feedforward-netwerk
- Hoe combineert ELMo zijn interne lagen voor een stroomafwaartse taak?
- Er wordt alleen gebruik gemaakt van de laatste toplaag
- Het middelt alle lagen gelijk en fixeert het resultaat
- Er wordt gebruik gemaakt van aangeleerde, taakspecifieke gewogen combinaties van alle lagen
- Er wordt elke keer willekeurig één laag gekozen
- Wat gebruikt ELMo als invoereenheden om onzichtbare woorden te verwerken?
- Alleen zoeken op hele woorden
- Vaste woordenboek-ID's
- Byte-paar-gecodeerde subwoorden van BERT
- CNN-representaties op karakterniveau
- Wanneer is ELMo ongeveer geïntroduceerd en door wie?
- 2018, door Allen Institute for AI-onderzoekers
- 2013, door het Word2Vec-team van Google
- 2020, tegen OpenAI
- 2015, door Facebook-AI
- Which corpus was used to train the bidirectional language model described in the ELMo paper?
- The One Billion Word Benchmark
- The Penn Treebank only
- A corpus of labeled images
- The GloVe Common Crawl vectors
- What language-model prediction does ELMo's forward LSTM learn?
- Predicting the previous word from future context
- Assigning a fixed vector to every document
- Predicting the next word from the preceding context
- Predicting a sentence's image resolution
- What linguistic information do ELMo's lower and higher LSTM layers tend to capture?
- Lower layers encode image color, while higher layers encode audio pitch
- Every layer stores only word frequency and ignores context
- Higher layers are always limited to punctuation prediction
- Lower layers tend toward syntax, while higher layers capture more context-dependent semantics