Gids-gekoppelde quiz · Middelmatig Niveau
EleutherAI-quiz
Bekijk de open taalmodellen van EleutherAI, de Pile-dataset, evaluatietools en praktische architectuurkeuzes zoals RoPE.
Vraag 1 van 8
How did EleutherAI first bring together its research community?
Bekijk elke vraag8 vragen
Antwoorden en uitleg verschijnen terwijl je de quiz doet.
- How did EleutherAI first bring together its research community?
- As a Discord server for discussing GPT-3 and open language modeling
- Als een door durfkapitaal gefinancierde startup in Silicon Valley
- Als onderzoekslaboratorium van de overheid
- As a university’s official AI department
- Wat is 'De Stapel'?
- Een eigen chatbotproduct
- Een open samengestelde tekstdataset van 825 GB voor het trainen van taalmodellen
- Een type neurale netwerklaag
- Het cloud computing-platform van EleutherAI
- Welke van deze is een EleutherAI-taalmodel?
- BERT-Groot
- LLaMA-2
- GPT-NeoX-20B
- PaLM
- Waar wordt het LM Evaluatieharnas voor gebruikt?
- Afbeeldingen genereren uit tekst
- Modelgewichten comprimeren
- Hostingmodellen als web-API's
- Benchmarking van taalmodellen voor vele taken
- Which organizations are named in EleutherAI’s retrospective as research supporters?
- CoreWeave and Google TPU Research Cloud
- Nvidia and the National Science Foundation only
- The U.S. Department of Energy and NASA
- Amazon and the European Space Agency
- Welke organisatorische verandering heeft EleutherAI in 2023 doorgevoerd?
- Het is verworven door OpenAI
- Het werd geformaliseerd als een non-profit onderzoeksinstituut
- Het werd een hedgefonds met winstoogmerk
- Het sloot zich volledig af
- Which positional method does the GPT-NeoX-20B paper describe using instead of learned absolute position embeddings?
- A separate learned embedding for every document
- A convolutional image-position map
- Rotary Positional Embeddings (RoPE)
- A random position permutation at each layer
- What architectural arrangement is highlighted as a GPT-NeoX-20B difference from GPT-3?
- The model replaces its Transformer with a decision tree
- Every layer removes the attention mechanism
- It uses only an encoder and no autoregressive decoder
- Attention and feed-forward layers can be computed in parallel