Kvíz spojený s průvodcem · Střední úroveň
EleutherAI kvíz
Prohlédněte si otevřené jazykové modely EleutherAI, datovou sadu Pile, vyhodnocovací nástroje a praktické možnosti architektury, jako je RoPE.
Otázka 1 z 8
How did EleutherAI first bring together its research community?
Náhled každé otázky8 otázky
Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.
- How did EleutherAI first bring together its research community?
- As a Discord server for discussing GPT-3 and open language modeling
- Jako venture-financovaný startup v Silicon Valley
- Jako vládní výzkumná laboratoř
- As a university’s official AI department
- Co je 'The Pile'?
- Proprietární produkt chatbota
- 825GB otevřená textová datová sada pro trénovací jazykové modely
- Typ vrstvy neuronové sítě
- Platforma cloud computingu EleutherAI
- Který z nich je jazykový model EleutherAI?
- BERT-velký
- LLaMA-2
- GPT-NeoX-20B
- PaLM
- K čemu slouží LM Evaluation Harness?
- Generování obrázků z textu
- Komprese modelových závaží
- Hostingové modely jako webová API
- Srovnávání jazykových modelů napříč mnoha úkoly
- Which organizations are named in EleutherAI’s retrospective as research supporters?
- CoreWeave and Google TPU Research Cloud
- Nvidia and the National Science Foundation only
- The U.S. Department of Energy and NASA
- Amazon and the European Space Agency
- Jakou organizační změnu provedla společnost EleutherAI v roce 2023?
- Získal jej OpenAI
- Formalizoval se jako neziskový výzkumný ústav
- Stal se z něj ziskový hedgeový fond
- Úplně se to vypnulo
- Which positional method does the GPT-NeoX-20B paper describe using instead of learned absolute position embeddings?
- A separate learned embedding for every document
- A convolutional image-position map
- Rotary Positional Embeddings (RoPE)
- A random position permutation at each layer
- What architectural arrangement is highlighted as a GPT-NeoX-20B difference from GPT-3?
- The model replaces its Transformer with a decision tree
- Every layer removes the attention mechanism
- It uses only an encoder and no autoregressive decoder
- Attention and feed-forward layers can be computed in parallel