Kuiz berkaitan panduan · Sederhana Tahap

Kuiz Penyertaan Kontekstual ELMo

Semak bagaimana model bahasa dua hala ELMo mencipta vektor perkataan sensitif konteks dan menggabungkan lapisan berulang untuk tugas hiliran.

Laluan panduan yang berkaitanEmbeddings Kontekstual Elmo
soalan 1 daripada 8

Apakah perbezaan utama antara ELMo dan benam terdahulu seperti Word2Vec?

Pratonton setiap soalan8 soalan

Jawapan dan penjelasan muncul semasa anda mengambil kuiz.

  1. Apakah perbezaan utama antara ELMo dan benam terdahulu seperti Word2Vec?
    • ELMo memberikan perkataan yang sama vektor berbeza bergantung pada konteks ayatnya
    • ELMo menggunakan vektor yang lebih kecil
    • ELMo hanya berfungsi pada perkataan tunggal, bukan ayat
    • ELMo tidak memerlukan data latihan
  2. Apakah seni bina saraf yang ELMo gunakan untuk membaca teks?
    • Transformer dengan perhatian diri
    • Model bahasa LSTM dua hala yang mendalam
    • Rangkaian imej konvolusi
    • Rangkaian suapan hadapan yang mudah
  3. Bagaimanakah ELMo menggabungkan lapisan dalamannya untuk tugas hiliran?
    • Ia hanya menggunakan lapisan atas terakhir
    • Ia purata semua lapisan sama rata dan membetulkan hasilnya
    • Ia menggunakan gabungan wajaran yang dipelajari dan khusus tugasan bagi semua lapisan
    • Ia memilih satu lapisan secara rawak setiap kali
  4. Apakah yang ELMo gunakan sebagai unit inputnya untuk mengendalikan perkataan yang tidak kelihatan?
    • Carian penuh perkataan sahaja
    • ID kamus tetap
    • Subkata yang dikodkan pasangan bait daripada BERT
    • Perwakilan CNN peringkat watak
  5. Secara kasarnya bilakah ELMo diperkenalkan dan oleh siapa?
    • 2018, oleh Institut Allen untuk penyelidik AI
    • 2013, oleh pasukan Word2Vec Google
    • 2020, oleh OpenAI
    • 2015, oleh Facebook AI
  6. Which corpus was used to train the bidirectional language model described in the ELMo paper?
    • The One Billion Word Benchmark
    • The Penn Treebank only
    • A corpus of labeled images
    • The GloVe Common Crawl vectors
  7. What language-model prediction does ELMo's forward LSTM learn?
    • Predicting the previous word from future context
    • Assigning a fixed vector to every document
    • Predicting the next word from the preceding context
    • Predicting a sentence's image resolution
  8. What linguistic information do ELMo's lower and higher LSTM layers tend to capture?
    • Lower layers encode image color, while higher layers encode audio pitch
    • Every layer stores only word frequency and ignores context
    • Higher layers are always limited to punctuation prediction
    • Lower layers tend toward syntax, while higher layers capture more context-dependent semantics