Quiz collegato alla guida · Medio Livello
EleutherAI Quiz
Esamina i modelli linguistici aperti di EleutherAI, il set di dati Pile, gli strumenti di valutazione e le scelte architettoniche pratiche come RoPE.
Domanda 1 di 8
How did EleutherAI first bring together its research community?
Anteprima di ogni domanda8 domande
Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.
- How did EleutherAI first bring together its research community?
- As a Discord server for discussing GPT-3 and open language modeling
- Come startup finanziata da venture capital nella Silicon Valley
- Come laboratorio di ricerca governativo
- As a university’s official AI department
- Cos'è "La Pila"?
- Un prodotto chatbot proprietario
- Un set di dati di testo aperto e curato da 825 GB per l'addestramento di modelli linguistici
- Un tipo di livello di rete neurale
- La piattaforma di cloud computing di EleutherAI
- Quale di questi è un modello linguistico EleutherAI?
- BERT-Grande
- LLaMA-2
- GPT-NeoX-20B
- PaLM
- A cosa serve il cablaggio di valutazione LM?
- Generazione di immagini dal testo
- Compressione dei pesi del modello
- Modelli di hosting come API Web
- Benchmarking di modelli linguistici in molte attività
- Which organizations are named in EleutherAI’s retrospective as research supporters?
- CoreWeave and Google TPU Research Cloud
- Nvidia and the National Science Foundation only
- The U.S. Department of Energy and NASA
- Amazon and the European Space Agency
- Quale cambiamento organizzativo ha apportato EleutherAI nel 2023?
- È stato acquisito da OpenAI
- Si è formalizzato come istituto di ricerca senza scopo di lucro
- È diventato un hedge fund a scopo di lucro
- Si è spento del tutto
- Which positional method does the GPT-NeoX-20B paper describe using instead of learned absolute position embeddings?
- A separate learned embedding for every document
- A convolutional image-position map
- Rotary Positional Embeddings (RoPE)
- A random position permutation at each layer
- What architectural arrangement is highlighted as a GPT-NeoX-20B difference from GPT-3?
- The model replaces its Transformer with a decision tree
- Every layer removes the attention mechanism
- It uses only an encoder and no autoregressive decoder
- Attention and feed-forward layers can be computed in parallel