Quiz collegato alla guida · Medio Livello

EleutherAI Quiz

Esamina i modelli linguistici aperti di EleutherAI, il set di dati Pile, gli strumenti di valutazione e le scelte architettoniche pratiche come RoPE.

Percorsi guida correlatiEleutherai
Domanda 1 di 8

How did EleutherAI first bring together its research community?

Anteprima di ogni domanda8 domande

Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.

  1. How did EleutherAI first bring together its research community?
    • As a Discord server for discussing GPT-3 and open language modeling
    • Come startup finanziata da venture capital nella Silicon Valley
    • Come laboratorio di ricerca governativo
    • As a university’s official AI department
  2. Cos'è "La Pila"?
    • Un prodotto chatbot proprietario
    • Un set di dati di testo aperto e curato da 825 GB per l'addestramento di modelli linguistici
    • Un tipo di livello di rete neurale
    • La piattaforma di cloud computing di EleutherAI
  3. Quale di questi è un modello linguistico EleutherAI?
    • BERT-Grande
    • LLaMA-2
    • GPT-NeoX-20B
    • PaLM
  4. A cosa serve il cablaggio di valutazione LM?
    • Generazione di immagini dal testo
    • Compressione dei pesi del modello
    • Modelli di hosting come API Web
    • Benchmarking di modelli linguistici in molte attività
  5. Which organizations are named in EleutherAI’s retrospective as research supporters?
    • CoreWeave and Google TPU Research Cloud
    • Nvidia and the National Science Foundation only
    • The U.S. Department of Energy and NASA
    • Amazon and the European Space Agency
  6. Quale cambiamento organizzativo ha apportato EleutherAI nel 2023?
    • È stato acquisito da OpenAI
    • Si è formalizzato come istituto di ricerca senza scopo di lucro
    • È diventato un hedge fund a scopo di lucro
    • Si è spento del tutto
  7. Which positional method does the GPT-NeoX-20B paper describe using instead of learned absolute position embeddings?
    • A separate learned embedding for every document
    • A convolutional image-position map
    • Rotary Positional Embeddings (RoPE)
    • A random position permutation at each layer
  8. What architectural arrangement is highlighted as a GPT-NeoX-20B difference from GPT-3?
    • The model replaces its Transformer with a decision tree
    • Every layer removes the attention mechanism
    • It uses only an encoder and no autoregressive decoder
    • Attention and feed-forward layers can be computed in parallel