引導式測驗 · 中等 等級
模型合併測驗
探索如何結合相容的模型檢查點與任務向量、合併方法會改變什麼,以及為什麼每個結果都需要評估。
問題 1 的 8
模型合併主要結合什麼?
預覽每個問題8 問題
當您參加測驗時,就會出現答案和解釋。
- 模型合併主要結合什麼?
- 多個模型的權重(參數)
- 多個模型的訓練資料集
- 推理時多個模型的輸出預測
- 用於訓練的硬體加速器
- 「任務向量」最好描述為:
- 模型可以執行的任務列表
- 微調模型的權重與其基本模型的權重之間的差異
- 任務的輸入標記向量
- 在單一訓練步驟中計算的梯度
- 在所描述的權重空間合併方法中,可以避免什麼?
- 合併檢查點的評估
- 模型權重之間的相容性需求
- 額外的梯度訓練以及取得原始訓練資料的權限
- 在預期任務上測試結果
- TIES-Merging 與 DARE 在處理參數干擾方面有何不同?
- 兩者皆使用相同的符號投票方法,僅在規模上有所差異
- DARE 採用提示工程,而 TIES 於聯合資料上重新訓練
- 兩者皆取模型輸出平均,而非改變權重
- 它們使用不同的技術:TIES 解決符號衝突,DARE 則刪除並重新縮放任務向量條目
- 兩個模型成功合併的關鍵前提是:
- 共享相同的架構,並且通常源自於公共基礎模型
- 使用相同的數據進行訓練
- 具有完全相同數量的訓練步驟
- 僅使用相同的分詞器詞彙量大小
- 在任務算術中,係數在組合任務向量時控制什麼?
- 每個檢查點必須使用的分詞器
- 每個參數變更向量對合併檢查點的貢獻程度
- 產生了多少訓練樣本
- 是否需要評估集
- TIES-Merging 所命名的三個主要階段是什麼?
- 分詞文字、推斷情緒、匯出音訊
- 量化權重、分割 GPU、路由網路封包
- 修剪小幅變更、選擇符號方向,然後合併對齊的參數更新
- 訓練獎勵模型、收集標籤、執行 PPO
- 為何團隊在模型合併後應對每個任務進行評估?
- 合併保證每個基準測試都會提升
- 僅需評估以計算檔案大小
- 合併模型若未重新訓練則無法執行
- 結合權重更新可能會產生干擾或降低某任務的效能