引導式測驗 · 中等 等級

獵鷹模型測驗

檢查 Falcon 的開發者、RefinedWeb、多查詢注意力、Mamba 變體以及主權基礎模型工作的作用。

相關引導路徑獵鷹模型
問題 1 的 8

哪個組織發展了 Falcon 模型?

預覽每個問題8 問題

當您參加測驗時,就會出現答案和解釋。

  1. 哪個組織發展了 Falcon 模型?
    • 阿布達比技術創新研究所 (TII)
    • 矽谷新創公司
    • 中國科學院
    • 歐洲大學聯盟
  2. 用於訓練早期 Falcon 模型的 RefinedWeb 資料集有什麼值得注意的地方?
    • 它很小而且是手寫的
    • 它是透過積極過濾和刪除重複的網路資料而建構的,而不是依賴精選的來源
    • 它僅包含圖像
    • 它完全是合成的
  3. Falcon Transformer 模型使用什麼注意力技術來節省推理記憶體?
    • 完全沒有關注
    • 僅完全二次注意力
    • 多查詢注意力
    • 隨機關注
  4. Falcon Mamba 在架構上與標準 Falcon 模型有何不同?
    • 它是一個更多層的變壓器
    • 它沒有神經網絡
    • 它只做影像分類
    • 它使用狀態空間模型而不是變壓器
  5. Falcon型號一般都是在什麼條件下發布的?
    • 鼓勵商業和研究使用的授權條款
    • 嚴格封閉且私密
    • 僅適用於阿聯酋公民
    • 僅作為付費 API
  6. 獵鷹經常被引用為哪種更廣泛趨勢的例子?
    • 開源人工智慧的終結
    • 各國建立主權、本土基礎模型
    • 只能離線工作的模型
    • 將所有 GPU 替換為 CPU
  7. 在多查詢注意力機制 (multi-query attention) 中,多個查詢頭共用什麼?
    • 一個共用的查詢以及每個 token 各自的鍵
    • 相同的最終詞彙 logits
    • 一組單一的鍵與值投影
    • 所有層共用單一的注意力分數
  8. Falcon 的 RefinedWeb 訓練資料說明了什麼?
    • 狀態空間模型不需要訓練文字
    • 所有網頁不經篩選都具有相同的可靠性
    • 合成資料必須始終取代真實文字
    • 大型網路語料庫可以透過篩選與去除重複來處理,而不僅僅依賴策展來源