Kuiz EleutherAI

Jawapan dan penjelasan muncul semasa anda mengambil kuiz.

1. How did EleutherAI first bring together its research community?
   • As a Discord server for discussing GPT-3 and open language modeling
   • Sebagai permulaan yang dibiayai oleh teroka di Silicon Valley
   • Sebagai makmal penyelidikan kerajaan
   • As a university’s official AI department
2. Apakah 'The Pile'?
   • Produk chatbot proprietari
   • Set data teks susun atur terbuka 825GB untuk model bahasa latihan
   • Sejenis lapisan rangkaian saraf
   • Platform pengkomputeran awan EleutherAI
3. Antara berikut, yang manakah model bahasa EleutherAI?
   • BERT-Besar
   • LLaMA-2
   • GPT-NeoX-20B
   • PaLM
4. Apakah kegunaan LM Evaluation Harness?
   • Menjana imej daripada teks
   • Memampatkan berat model
   • Model pengehosan sebagai API web
   • Menanda aras model bahasa merentas banyak tugas
5. Which organizations are named in EleutherAI’s retrospective as research supporters?
   • CoreWeave and Google TPU Research Cloud
   • Nvidia and the National Science Foundation only
   • The U.S. Department of Energy and NASA
   • Amazon and the European Space Agency
6. Apakah perubahan organisasi yang dilakukan EleutherAI pada tahun 2023?
   • Ia telah diperoleh oleh OpenAI
   • Ia diformalkan sebagai institut penyelidikan bukan untung
   • Ia menjadi dana lindung nilai untuk keuntungan
   • Ia ditutup sepenuhnya
7. Which positional method does the GPT-NeoX-20B paper describe using instead of learned absolute position embeddings?
   • A separate learned embedding for every document
   • A convolutional image-position map
   • Rotary Positional Embeddings (RoPE)
   • A random position permutation at each layer
8. What architectural arrangement is highlighted as a GPT-NeoX-20B difference from GPT-3?
   • The model replaces its Transformer with a decision tree
   • Every layer removes the attention mechanism
   • It uses only an encoder and no autoregressive decoder
   • Attention and feed-forward layers can be computed in parallel