Quiz połączony z przewodnikiem · Średni Poziom

Quiz dotyczący osadzania kontekstowego ELMo

Zobacz, jak dwukierunkowy model języka ELMo tworzy kontekstowe wektory słów i łączy powtarzające się warstwy na potrzeby dalszych zadań.

Powiązane ścieżki prowadząceOsadzania kontekstowe Elmo
Pytanie 1 z 8

Jaka jest kluczowa różnica między ELMo a wcześniejszymi osadzaniami, takimi jak Word2Vec?

Podgląd każdego pytania8 pytania

Odpowiedzi i wyjaśnienia pojawiają się w miarę rozwiązywania quizu.

  1. Jaka jest kluczowa różnica między ELMo a wcześniejszymi osadzaniami, takimi jak Word2Vec?
    • ELMo nadaje temu samemu słowu różne wektory w zależności od kontekstu zdania
    • ELMo używa mniejszych wektorów
    • ELMo działa tylko na pojedynczych słowach, a nie na zdaniach
    • ELMo nie wymaga żadnych danych treningowych
  2. Jakiej architektury neuronowej używa ELMo do czytania tekstu?
    • Transformator z samouważnością
    • Głęboki dwukierunkowy model języka LSTM
    • Splotowa sieć obrazów
    • Prosta sieć wyprzedzająca
  3. W jaki sposób ELMo łączy swoje wewnętrzne warstwy w celu realizacji kolejnego zadania?
    • Wykorzystuje tylko ostatnią górną warstwę
    • Uśrednia wszystkie warstwy jednakowo i utrwala wynik
    • Wykorzystuje wyuczone, specyficzne dla zadania kombinacje ważone wszystkich warstw
    • Za każdym razem wybiera losowo jedną warstwę
  4. Czego ELMo używa jako jednostek wejściowych do obsługi niewidocznych słów?
    • Tylko wyszukiwanie całych słów
    • Naprawiono identyfikatory słowników
    • Podsłowa zakodowane parami bajtów firmy BERT
    • Reprezentacje CNN na poziomie znakowym
  5. Kiedy mniej więcej wprowadzono ELMo i przez kogo?
    • 2018, przeprowadzony przez Allen Institute for AI Research
    • 2013, autor: zespół Word2Vec Google
    • 2020, autor: OpenAI
    • 2015, według AI Facebooka
  6. Which corpus was used to train the bidirectional language model described in the ELMo paper?
    • The One Billion Word Benchmark
    • The Penn Treebank only
    • A corpus of labeled images
    • The GloVe Common Crawl vectors
  7. What language-model prediction does ELMo's forward LSTM learn?
    • Predicting the previous word from future context
    • Assigning a fixed vector to every document
    • Predicting the next word from the preceding context
    • Predicting a sentence's image resolution
  8. What linguistic information do ELMo's lower and higher LSTM layers tend to capture?
    • Lower layers encode image color, while higher layers encode audio pitch
    • Every layer stores only word frequency and ignores context
    • Higher layers are always limited to punctuation prediction
    • Lower layers tend toward syntax, while higher layers capture more context-dependent semantics