引導式測驗 · 中等 等級

EleutherAI 測驗

查看 EleutherAI 的開放語言模型、Pile 資料集、評估工具以及 RoPE 等實用架構選擇。

相關引導路徑刺五加
問題 1 的 8

EleutherAI 最初是如何將其研究社群聚集在一起的?

預覽每個問題8 問題

當您參加測驗時,就會出現答案和解釋。

  1. EleutherAI 最初是如何將其研究社群聚集在一起的?
    • As a Discord server for discussing GPT-3 and open language modeling
    • 作為矽谷創投的新創公司
    • 作為政府研究實驗室
    • As a university’s official AI department
  2. 什麼是「樁」?
    • 專有的聊天機器人產品
    • 用於訓練語言模型的 825GB 開放式文字資料集
    • 一種神經網路層
    • EleutherAI的雲端運算平台
  3. 下列哪一個是 EleutherAI 語言模式?
    • BERT-Large
    • 拉瑪-2
    • GPT-NeoX-20B
    • 帕勒姆
  4. LM 評估工具的用途是什麼?
    • 從文字生成圖像
    • 壓縮模型權重
    • 將模型託管為 Web API
    • 跨許多任務對語言模型進行基準測試
  5. EleutherAI 的回顧中將哪些組織列為研究支持者?
    • CoreWeave and Google TPU Research Cloud
    • Nvidia and the National Science Foundation only
    • The U.S. Department of Energy and NASA
    • Amazon and the European Space Agency
  6. 2023 年 EleutherAI 進行了哪些組織變革?
    • 它被 OpenAI 收購
    • 它正式成為非營利研究機構
    • 它成為一個營利性對沖基金
    • 它完全關閉了
  7. Which positional method does the GPT-NeoX-20B paper describe using instead of learned absolute position embeddings?
    • A separate learned embedding for every document
    • A convolutional image-position map
    • Rotary Positional Embeddings (RoPE)
    • A random position permutation at each layer
  8. What architectural arrangement is highlighted as a GPT-NeoX-20B difference from GPT-3?
    • The model replaces its Transformer with a decision tree
    • Every layer removes the attention mechanism
    • It uses only an encoder and no autoregressive decoder
    • Attention and feed-forward layers can be computed in parallel