Rehber bağlantılı sınav · Orta Seviye

EleutherAI Testi

EleutherAI'nin açık dil modellerini, Pile veri kümesini, değerlendirme araçlarını ve RoPE gibi pratik mimari seçeneklerini inceleyin.

İlgili kılavuz yollarıEleutherai
Soru 1 arasında 8

How did EleutherAI first bring together its research community?

Her soruyu önizleyin8 sorular

Testi çözdüğünüzde cevaplar ve açıklamalar görünür.

  1. How did EleutherAI first bring together its research community?
    • As a Discord server for discussing GPT-3 and open language modeling
    • Silikon Vadisi'nde girişim fonlu bir girişim olarak
    • Devlet araştırma laboratuvarı olarak
    • As a university’s official AI department
  2. 'Yığın' nedir?
    • Tescilli bir chatbot ürünü
    • Dil modellerinin eğitimi için 825 GB'lık açık seçilmiş metin veri kümesi
    • Bir tür sinir ağı katmanı
    • EleutherAI'nin bulut bilişim platformu
  3. Bunlardan hangisi EleutherAI dil modelidir?
    • BERT-Büyük
    • LLaMA-2
    • GPT-NeoX-20B
    • PALM
  4. LM Değerlendirme Donanımı ne için kullanılır?
    • Metinden görseller oluşturma
    • Model ağırlıklarının sıkıştırılması
    • Modelleri web API'leri olarak barındırma
    • Birçok görevde dil modellerinin karşılaştırılması
  5. Which organizations are named in EleutherAI’s retrospective as research supporters?
    • CoreWeave and Google TPU Research Cloud
    • Nvidia and the National Science Foundation only
    • The U.S. Department of Energy and NASA
    • Amazon and the European Space Agency
  6. EleutherAI 2023'te hangi organizasyonel değişikliği yaptı?
    • OpenAI tarafından satın alındı
    • Kâr amacı gütmeyen bir araştırma enstitüsü olarak resmileşti
    • Kâr amaçlı bir hedge fonu haline geldi
    • Tamamen kapandı
  7. Which positional method does the GPT-NeoX-20B paper describe using instead of learned absolute position embeddings?
    • A separate learned embedding for every document
    • A convolutional image-position map
    • Rotary Positional Embeddings (RoPE)
    • A random position permutation at each layer
  8. What architectural arrangement is highlighted as a GPT-NeoX-20B difference from GPT-3?
    • The model replaces its Transformer with a decision tree
    • Every layer removes the attention mechanism
    • It uses only an encoder and no autoregressive decoder
    • Attention and feed-forward layers can be computed in parallel