Kvíz spojený s průvodcem · Střední úroveň

EleutherAI kvíz

Prohlédněte si otevřené jazykové modely EleutherAI, datovou sadu Pile, vyhodnocovací nástroje a praktické možnosti architektury, jako je RoPE.

Související vodicí cestyEleutherai
Otázka 1 z 8

How did EleutherAI first bring together its research community?

Náhled každé otázky8 otázky

Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.

  1. How did EleutherAI first bring together its research community?
    • As a Discord server for discussing GPT-3 and open language modeling
    • Jako venture-financovaný startup v Silicon Valley
    • Jako vládní výzkumná laboratoř
    • As a university’s official AI department
  2. Co je 'The Pile'?
    • Proprietární produkt chatbota
    • 825GB otevřená textová datová sada pro trénovací jazykové modely
    • Typ vrstvy neuronové sítě
    • Platforma cloud computingu EleutherAI
  3. Který z nich je jazykový model EleutherAI?
    • BERT-velký
    • LLaMA-2
    • GPT-NeoX-20B
    • PaLM
  4. K čemu slouží LM Evaluation Harness?
    • Generování obrázků z textu
    • Komprese modelových závaží
    • Hostingové modely jako webová API
    • Srovnávání jazykových modelů napříč mnoha úkoly
  5. Which organizations are named in EleutherAI’s retrospective as research supporters?
    • CoreWeave and Google TPU Research Cloud
    • Nvidia and the National Science Foundation only
    • The U.S. Department of Energy and NASA
    • Amazon and the European Space Agency
  6. Jakou organizační změnu provedla společnost EleutherAI v roce 2023?
    • Získal jej OpenAI
    • Formalizoval se jako neziskový výzkumný ústav
    • Stal se z něj ziskový hedgeový fond
    • Úplně se to vypnulo
  7. Which positional method does the GPT-NeoX-20B paper describe using instead of learned absolute position embeddings?
    • A separate learned embedding for every document
    • A convolutional image-position map
    • Rotary Positional Embeddings (RoPE)
    • A random position permutation at each layer
  8. What architectural arrangement is highlighted as a GPT-NeoX-20B difference from GPT-3?
    • The model replaces its Transformer with a decision tree
    • Every layer removes the attention mechanism
    • It uses only an encoder and no autoregressive decoder
    • Attention and feed-forward layers can be computed in parallel