Test legat de ghid · Mediu Nivel

Testul de încorporare contextuală ELMo

Review how ELMo's bidirectional language model creates context-sensitive word vectors and combines recurrent layers for downstream tasks.

Căi de ghidare aferenteElmo Contextual Embeddings
Întrebare 1 de 8

Care este diferența cheie dintre ELMo și înglobările anterioare precum Word2Vec?

Previzualizează fiecare întrebare8 întrebări

Răspunsurile și explicațiile apar pe măsură ce susțineți testul.

  1. Care este diferența cheie dintre ELMo și înglobările anterioare precum Word2Vec?
    • ELMo dă aceluiași cuvânt vectori diferiți în funcție de contextul propoziției sale
    • ELMo folosește vectori mai mici
    • ELMo funcționează numai pe cuvinte unice, nu pe propoziții
    • ELMo nu necesită date de antrenament
  2. Ce arhitectură neuronală folosește ELMo pentru a citi text?
    • Un transformator cu atenție personală
    • Un model de limbaj LSTM bidirecțional profund
    • O rețea de imagini convoluționale
    • O simplă rețea feedforward
  3. Cum își combină ELMo straturile interne pentru o sarcină în aval?
    • Folosește doar stratul superior final
    • Mediază în mod egal toate straturile și fixează rezultatul
    • Utilizează combinații ponderate învățate, specifice sarcinii, ale tuturor straturilor
    • Alege un strat la întâmplare de fiecare dată
  4. Ce folosește ELMo ca unități de intrare pentru a gestiona cuvintele nevăzute?
    • Numai căutarea cu cuvinte întregi
    • ID-uri de dicționar fixe
    • Subcuvinte codificate în perechi de octeți de la BERT
    • Reprezentări CNN la nivel de caracter
  5. Aproximativ când a fost introdus ELMo și de către cine?
    • 2018, de către Institutul Allen pentru cercetători AI
    • 2013, de echipa Word2Vec a lui Google
    • 2020, de OpenAI
    • 2015, de Facebook AI
  6. Which corpus was used to train the bidirectional language model described in the ELMo paper?
    • The One Billion Word Benchmark
    • The Penn Treebank only
    • A corpus of labeled images
    • The GloVe Common Crawl vectors
  7. What language-model prediction does ELMo's forward LSTM learn?
    • Predicting the previous word from future context
    • Assigning a fixed vector to every document
    • Predicting the next word from the preceding context
    • Predicting a sentence's image resolution
  8. What linguistic information do ELMo's lower and higher LSTM layers tend to capture?
    • Lower layers encode image color, while higher layers encode audio pitch
    • Every layer stores only word frequency and ignores context
    • Higher layers are always limited to punctuation prediction
    • Lower layers tend toward syntax, while higher layers capture more context-dependent semantics