引導式測驗 · 中等 等級
使用 nvidia-smi 與 DCGM 監控 GPU 使用率測驗
解釋 GPU 繁忙時間、記憶體活動與容量、功耗和運行狀況指標,並使用分析來尋找實際瓶頸。
問題 1 的 8
nvidia-smi GPU 使用率大約會報告什麼?
預覽每個問題8 問題
當您參加測驗時,就會出現答案和解釋。
- nvidia-smi GPU 使用率大約會報告什麼?
- GPU 所達到的峰值 FLOPs 的比例
- 分配給某個程序的總 VRAM 百分比
- 樣本期間至少有一個核心在執行的比例
- 目前已分配的裝置記憶體量
- 記憶體利用率與記憶體使用量有何不同?
- GPU忙碌時間與 VRAM 容量(GB)
- 隨時間變化的記憶體活動與已分配記憶體容量
- 張量核心活動的兩個名稱
- 相同計數器以不同單位報告
- GPU 報告高利用率但吞吐量低,可能的解釋是什麼?
- 利用率欄位直接測量峰值 FLOPs
- 忙碌的 GPU 必須是計算受限
- 高已分配記憶體證明裝置記憶體頻寬已飽和
- 工作負載可能是記憶體受限或使用低效核心
- 在訓練步驟之間 GPU 活動低可能表示什麼?
- 輸入管線或同步可能正在阻塞裝置
- 低利用率證明所有模型參數都能放入 VRAM
- 較長的步驟表示訓練過程已過度擬合
- 模型必須在峰值吞吐量下使用張量核心
- 哪個 DCGM 指標可以協助評估記憶體流量活動?
- SM 佔用率比例
- GPU 記憶體已分配(MiB)
- DRAM 活動或使用率比例
- Tensor-pipe 活動比例
- 溫度、時鐘與功率能協助診斷什麼?
- 模型是否存在類別不平衡
- 熱能或功率限制影響效能
- 資料載入器工作者是否有重複樣本
- 模型是否使用分組查詢注意力
- 閱讀 DCGM 指標後,工程師何時應使用框架分析器?
- 當 DCGM 欄位顯示慢核的精確來源行時
- 當核在任何執行遠端資訊存在前失敗編譯時
- 在收集聚合指標之前,以便分析器有基準
- 當聚合遙測無法辨識緩慢的核心或運算子時
- 為什麼要在利用率資料中記錄抽樣期間與硬體環境?
- 抽樣間隔與裝置細節會影響指標的解讀
- 抽樣期間不會產生影響,因為計數器是即時的
- 裝置細節決定模型輸出標籤
- 記錄環境可確保各次執行的吞吐量相等