Gids-gekoppelde quiz · Middelmatig Niveau

EleutherAI-quiz

Bekijk de open taalmodellen van EleutherAI, de Pile-dataset, evaluatietools en praktische architectuurkeuzes zoals RoPE.

Gerelateerde gidspadenEleutherai
Vraag 1 van 8

How did EleutherAI first bring together its research community?

Bekijk elke vraag8 vragen

Antwoorden en uitleg verschijnen terwijl je de quiz doet.

  1. How did EleutherAI first bring together its research community?
    • As a Discord server for discussing GPT-3 and open language modeling
    • Als een door durfkapitaal gefinancierde startup in Silicon Valley
    • Als onderzoekslaboratorium van de overheid
    • As a university’s official AI department
  2. Wat is 'De Stapel'?
    • Een eigen chatbotproduct
    • Een open samengestelde tekstdataset van 825 GB voor het trainen van taalmodellen
    • Een type neurale netwerklaag
    • Het cloud computing-platform van EleutherAI
  3. Welke van deze is een EleutherAI-taalmodel?
    • BERT-Groot
    • LLaMA-2
    • GPT-NeoX-20B
    • PaLM
  4. Waar wordt het LM Evaluatieharnas voor gebruikt?
    • Afbeeldingen genereren uit tekst
    • Modelgewichten comprimeren
    • Hostingmodellen als web-API's
    • Benchmarking van taalmodellen voor vele taken
  5. Which organizations are named in EleutherAI’s retrospective as research supporters?
    • CoreWeave and Google TPU Research Cloud
    • Nvidia and the National Science Foundation only
    • The U.S. Department of Energy and NASA
    • Amazon and the European Space Agency
  6. Welke organisatorische verandering heeft EleutherAI in 2023 doorgevoerd?
    • Het is verworven door OpenAI
    • Het werd geformaliseerd als een non-profit onderzoeksinstituut
    • Het werd een hedgefonds met winstoogmerk
    • Het sloot zich volledig af
  7. Which positional method does the GPT-NeoX-20B paper describe using instead of learned absolute position embeddings?
    • A separate learned embedding for every document
    • A convolutional image-position map
    • Rotary Positional Embeddings (RoPE)
    • A random position permutation at each layer
  8. What architectural arrangement is highlighted as a GPT-NeoX-20B difference from GPT-3?
    • The model replaces its Transformer with a decision tree
    • Every layer removes the attention mechanism
    • It uses only an encoder and no autoregressive decoder
    • Attention and feed-forward layers can be computed in parallel