引導式測驗 · 中等 等級
獵鷹模型測驗
檢查 Falcon 的開發者、RefinedWeb、多查詢注意力、Mamba 變體以及主權基礎模型工作的作用。
問題 1 的 8
哪個組織發展了 Falcon 模型?
預覽每個問題8 問題
當您參加測驗時,就會出現答案和解釋。
- 哪個組織發展了 Falcon 模型?
- 阿布達比技術創新研究所 (TII)
- 矽谷新創公司
- 中國科學院
- 歐洲大學聯盟
- 用於訓練早期 Falcon 模型的 RefinedWeb 資料集有什麼值得注意的地方?
- 它很小而且是手寫的
- 它是透過積極過濾和刪除重複的網路資料而建構的,而不是依賴精選的來源
- 它僅包含圖像
- 它完全是合成的
- Falcon Transformer 模型使用什麼注意力技術來節省推理記憶體?
- 完全沒有關注
- 僅完全二次注意力
- 多查詢注意力
- 隨機關注
- Falcon Mamba 在架構上與標準 Falcon 模型有何不同?
- 它是一個更多層的變壓器
- 它沒有神經網絡
- 它只做影像分類
- 它使用狀態空間模型而不是變壓器
- Falcon型號一般都是在什麼條件下發布的?
- 鼓勵商業和研究使用的授權條款
- 嚴格封閉且私密
- 僅適用於阿聯酋公民
- 僅作為付費 API
- 獵鷹經常被引用為哪種更廣泛趨勢的例子?
- 開源人工智慧的終結
- 各國建立主權、本土基礎模型
- 只能離線工作的模型
- 將所有 GPU 替換為 CPU
- 在多查詢注意力機制 (multi-query attention) 中,多個查詢頭共用什麼?
- 一個共用的查詢以及每個 token 各自的鍵
- 相同的最終詞彙 logits
- 一組單一的鍵與值投影
- 所有層共用單一的注意力分數
- Falcon 的 RefinedWeb 訓練資料說明了什麼?
- 狀態空間模型不需要訓練文字
- 所有網頁不經篩選都具有相同的可靠性
- 合成資料必須始終取代真實文字
- 大型網路語料庫可以透過篩選與去除重複來處理,而不僅僅依賴策展來源