Maswali yanayounganishwa na mwongozo · Kati Kiwango

Maswali ya Upachikaji wa Muktadha wa ELMo

Kagua jinsi muundo wa lugha ya mwelekeo mbili wa ELMo huunda vekta za maneno zinazozingatia muktadha na kuchanganya safu zinazojirudia kwa kazi za chini.

Njia za mwongozo zinazohusianaUpachikaji wa Muktadha wa Elmo
Swali 1 ya 8

Ni tofauti gani kuu kati ya ELMo na upachikaji wa mapema kama Word2Vec?

Hakiki kila swali8 maswali

Majibu na maelezo huonekana unapojibu maswali.

  1. Ni tofauti gani kuu kati ya ELMo na upachikaji wa mapema kama Word2Vec?
    • ELMo inatoa neno sawa vekta tofauti kulingana na muktadha wa sentensi
    • ELMo hutumia vekta ndogo
    • ELMo hufanya kazi kwa maneno moja tu, si sentensi
    • ELMo hauhitaji data ya mafunzo
  2. ELMo hutumia usanifu gani wa neva kusoma maandishi?
    • Transfoma iliyo na umakini wa kibinafsi
    • Muundo wa kina wa lugha ya LSTM yenye mwelekeo wa pande mbili
    • Mtandao wa picha wa kushawishi
    • Mtandao rahisi wa usambazaji
  3. ELMo inachanganyaje tabaka zake za ndani kwa kazi ya chini ya mkondo?
    • Inatumia tu safu ya juu ya mwisho
    • Ni wastani wa tabaka zote kwa usawa na kurekebisha matokeo
    • Inatumia michanganyiko iliyojifunza, maalum ya kazi ya tabaka zote
    • Inachagua safu moja kwa nasibu kila wakati
  4. ELMo hutumia nini kama vitengo vyake vya ingizo kushughulikia maneno yasiyoonekana?
    • Utafutaji wa neno zima pekee
    • Vitambulisho vya kamusi visivyobadilika
    • Maneno madogo yaliyosimbwa kwa jozi kutoka kwa BERT
    • Uwakilishi wa kiwango cha wahusika wa CNN
  5. ELMo ilianzishwa lini na nani?
    • 2018, na Taasisi ya Allen ya watafiti wa AI
    • 2013, na Google timu ya Word2Vec
    • 2020, na OpenAI
    • 2015, na Facebook AI
  6. Which corpus was used to train the bidirectional language model described in the ELMo paper?
    • The One Billion Word Benchmark
    • The Penn Treebank only
    • A corpus of labeled images
    • The GloVe Common Crawl vectors
  7. What language-model prediction does ELMo's forward LSTM learn?
    • Predicting the previous word from future context
    • Assigning a fixed vector to every document
    • Predicting the next word from the preceding context
    • Predicting a sentence's image resolution
  8. What linguistic information do ELMo's lower and higher LSTM layers tend to capture?
    • Lower layers encode image color, while higher layers encode audio pitch
    • Every layer stores only word frequency and ignores context
    • Higher layers are always limited to punctuation prediction
    • Lower layers tend toward syntax, while higher layers capture more context-dependent semantics