Тест, свързан с ръководство · Среден Ниво

Тест за контекстни вграждания на ELMo

Прегледайте как двупосочният езиков модел на ELMo създава чувствителни към контекста вектори на думи и комбинира повтарящи се слоеве за задачи надолу по веригата.

Свързани ръководни пътекиКонтекстуални вграждания на Elmo
Въпрос 1 на 8

Каква е ключовата разлика между ELMo и по-ранните вграждания като Word2Vec?

Визуализирайте всеки въпрос8 въпроси

Отговорите и обясненията се появяват, докато отговаряте на теста.

  1. Каква е ключовата разлика между ELMo и по-ранните вграждания като Word2Vec?
    • ELMo дава на една и съща дума различни вектори в зависимост от контекста на нейното изречение
    • ELMo използва по-малки вектори
    • ELMo работи само с отделни думи, а не с изречения
    • ELMo не изисква данни за обучение
  2. Каква невронна архитектура използва ELMo за четене на текст?
    • Трансформатор със самовнимание
    • Дълбок двупосочен LSTM езиков модел
    • Конволюционна мрежа от изображения
    • Проста мрежа с предварителна връзка
  3. Как ELMo комбинира своите вътрешни слоеве за задача надолу по веригата?
    • Използва само крайния горен слой
    • Осреднява всички слоеве еднакво и фиксира резултата
    • Той използва научени, специфични за задачата претеглени комбинации от всички слоеве
    • Той избира един слой на случаен принцип всеки път
  4. Какво използва ELMo като свои входни единици за обработка на невидими думи?
    • Само търсене на цяла дума
    • Фиксирани идентификатори на речници
    • Поддуми, кодирани с чифт байтове от BERT
    • CNN представяния на ниво знаци
  5. Приблизително кога беше представен ELMo и от кого?
    • 2018 г., от Института Алън за изследователи на ИИ
    • 2013, от екипа Word2Vec на Google
    • 2020 г., от OpenAI
    • 2015, от Facebook AI
  6. Which corpus was used to train the bidirectional language model described in the ELMo paper?
    • The One Billion Word Benchmark
    • The Penn Treebank only
    • A corpus of labeled images
    • The GloVe Common Crawl vectors
  7. What language-model prediction does ELMo's forward LSTM learn?
    • Predicting the previous word from future context
    • Assigning a fixed vector to every document
    • Predicting the next word from the preceding context
    • Predicting a sentence's image resolution
  8. What linguistic information do ELMo's lower and higher LSTM layers tend to capture?
    • Lower layers encode image color, while higher layers encode audio pitch
    • Every layer stores only word frequency and ignores context
    • Higher layers are always limited to punctuation prediction
    • Lower layers tend toward syntax, while higher layers capture more context-dependent semantics