Kuis terkait panduan · Sedang Tingkat

Kuis EleutherAI

Tinjau model bahasa terbuka EleutherAI, kumpulan data Pile, alat evaluasi, dan pilihan arsitektur praktis seperti RoPE.

Jalur panduan terkaitEleutherai
Pertanyaan 1 dari 8

How did EleutherAI first bring together its research community?

Pratinjau setiap pertanyaan8 pertanyaan

Jawaban dan penjelasan muncul saat Anda mengikuti kuis.

  1. How did EleutherAI first bring together its research community?
    • As a Discord server for discussing GPT-3 and open language modeling
    • Sebagai startup yang didanai ventura di Silicon Valley
    • Sebagai laboratorium penelitian pemerintah
    • As a university’s official AI department
  2. Apa itu 'Tumpukan'?
    • Produk chatbot berpemilik
    • Kumpulan data teks terbuka berukuran 825 GB yang dikurasi untuk melatih model bahasa
    • Jenis lapisan jaringan saraf
    • Platform komputasi awan EleutherAI
  3. Manakah dari berikut ini yang merupakan model bahasa EleutherAI?
    • BERT-Besar
    • LLaMA-2
    • GPT-NeoX-20B
    • PaLM
  4. Untuk apa Harness Evaluasi LM digunakan?
    • Menghasilkan gambar dari teks
    • Mengompresi bobot model
    • Model hosting sebagai API web
    • Membandingkan model bahasa di banyak tugas
  5. Which organizations are named in EleutherAI’s retrospective as research supporters?
    • CoreWeave and Google TPU Research Cloud
    • Nvidia and the National Science Foundation only
    • The U.S. Department of Energy and NASA
    • Amazon and the European Space Agency
  6. Perubahan organisasi apa yang dilakukan EleutherAI pada tahun 2023?
    • Itu diakuisisi oleh OpenAI
    • Ini diformalkan sebagai lembaga penelitian nirlaba
    • Ini menjadi dana lindung nilai yang mencari keuntungan
    • Ini ditutup seluruhnya
  7. Which positional method does the GPT-NeoX-20B paper describe using instead of learned absolute position embeddings?
    • A separate learned embedding for every document
    • A convolutional image-position map
    • Rotary Positional Embeddings (RoPE)
    • A random position permutation at each layer
  8. What architectural arrangement is highlighted as a GPT-NeoX-20B difference from GPT-3?
    • The model replaces its Transformer with a decision tree
    • Every layer removes the attention mechanism
    • It uses only an encoder and no autoregressive decoder
    • Attention and feed-forward layers can be computed in parallel