Тест, свързан с ръководство · Среден Ниво

EleutherAI Викторина

Прегледайте отворените езикови модели на EleutherAI, набора от данни Pile, инструментите за оценка и практичните избори на архитектура като RoPE.

Свързани ръководни пътекиЕлевтери
Въпрос 1 на 8

How did EleutherAI first bring together its research community?

Визуализирайте всеки въпрос8 въпроси

Отговорите и обясненията се появяват, докато отговаряте на теста.

  1. How did EleutherAI first bring together its research community?
    • As a Discord server for discussing GPT-3 and open language modeling
    • Като стартираща компания, финансирана от рисков капитал в Силиконовата долина
    • Като правителствена изследователска лаборатория
    • As a university’s official AI department
  2. Какво е "The Pile"?
    • Патентован продукт за чатбот
    • Набор от отворени подбрани текстови данни от 825 GB за обучение на езикови модели
    • Вид слой на невронна мрежа
    • Платформата за облачни изчисления на EleutherAI
  3. Кой от тях е езиков модел EleutherAI?
    • БЕРТ-Голям
    • LLaMA-2
    • GPT-NeoX-20B
    • PaLM
  4. За какво се използва LM Evaluation Harness?
    • Генериране на изображения от текст
    • Компресиране на тежести на модела
    • Хостинг модели като уеб API
    • Сравнителен анализ на езикови модели в много задачи
  5. Which organizations are named in EleutherAI’s retrospective as research supporters?
    • CoreWeave and Google TPU Research Cloud
    • Nvidia and the National Science Foundation only
    • The U.S. Department of Energy and NASA
    • Amazon and the European Space Agency
  6. Каква организационна промяна направи EleutherAI през 2023 г.?
    • Придобито е от OpenAI
    • Той се формализира като изследователски институт с нестопанска цел
    • Той се превърна в хедж фонд с печалба
    • Изключи се напълно
  7. Which positional method does the GPT-NeoX-20B paper describe using instead of learned absolute position embeddings?
    • A separate learned embedding for every document
    • A convolutional image-position map
    • Rotary Positional Embeddings (RoPE)
    • A random position permutation at each layer
  8. What architectural arrangement is highlighted as a GPT-NeoX-20B difference from GPT-3?
    • The model replaces its Transformer with a decision tree
    • Every layer removes the attention mechanism
    • It uses only an encoder and no autoregressive decoder
    • Attention and feed-forward layers can be computed in parallel