引導式測驗 · 中等 等級

模型合併測驗

探索如何結合相容的模型檢查點與任務向量、合併方法會改變什麼,以及為什麼每個結果都需要評估。

相關引導路徑模型合併
問題 1 的 8

模型合併主要結合什麼?

預覽每個問題8 問題

當您參加測驗時,就會出現答案和解釋。

  1. 模型合併主要結合什麼?
    • 多個模型的權重(參數)
    • 多個模型的訓練資料集
    • 推理時多個模型的輸出預測
    • 用於訓練的硬體加速器
  2. 「任務向量」最好描述為:
    • 模型可以執行的任務列表
    • 微調模型的權重與其基本模型的權重之間的差異
    • 任務的輸入標記向量
    • 在單一訓練步驟中計算的梯度
  3. 在所描述的權重空間合併方法中,可以避免什麼?
    • 合併檢查點的評估
    • 模型權重之間的相容性需求
    • 額外的梯度訓練以及取得原始訓練資料的權限
    • 在預期任務上測試結果
  4. TIES-Merging 與 DARE 在處理參數干擾方面有何不同?
    • 兩者皆使用相同的符號投票方法,僅在規模上有所差異
    • DARE 採用提示工程,而 TIES 於聯合資料上重新訓練
    • 兩者皆取模型輸出平均,而非改變權重
    • 它們使用不同的技術:TIES 解決符號衝突,DARE 則刪除並重新縮放任務向量條目
  5. 兩個模型成功合併的關鍵前提是:
    • 共享相同的架構,並且通常源自於公共基礎模型
    • 使用相同的數據進行訓練
    • 具有完全相同數量的訓練步驟
    • 僅使用相同的分詞器詞彙量大小
  6. 在任務算術中,係數在組合任務向量時控制什麼?
    • 每個檢查點必須使用的分詞器
    • 每個參數變更向量對合併檢查點的貢獻程度
    • 產生了多少訓練樣本
    • 是否需要評估集
  7. TIES-Merging 所命名的三個主要階段是什麼?
    • 分詞文字、推斷情緒、匯出音訊
    • 量化權重、分割 GPU、路由網路封包
    • 修剪小幅變更、選擇符號方向,然後合併對齊的參數更新
    • 訓練獎勵模型、收集標籤、執行 PPO
  8. 為何團隊在模型合併後應對每個任務進行評估?
    • 合併保證每個基準測試都會提升
    • 僅需評估以計算檔案大小
    • 合併模型若未重新訓練則無法執行
    • 結合權重更新可能會產生干擾或降低某任務的效能