引導式測驗 · 中等 等級

使用 nvidia-smi 與 DCGM 監控 GPU 使用率測驗

解釋 GPU 繁忙時間、記憶體活動與容量、功耗和運行狀況指標,並使用分析來尋找實際瓶頸。

問題 1 的 8

nvidia-smi GPU 使用率大約會報告什麼?

預覽每個問題8 問題

當您參加測驗時,就會出現答案和解釋。

  1. nvidia-smi GPU 使用率大約會報告什麼?
    • GPU 所達到的峰值 FLOPs 的比例
    • 分配給某個程序的總 VRAM 百分比
    • 樣本期間至少有一個核心在執行的比例
    • 目前已分配的裝置記憶體量
  2. 記憶體利用率與記憶體使用量有何不同?
    • GPU忙碌時間與 VRAM 容量(GB)
    • 隨時間變化的記憶體活動與已分配記憶體容量
    • 張量核心活動的兩個名稱
    • 相同計數器以不同單位報告
  3. GPU 報告高利用率但吞吐量低,可能的解釋是什麼?
    • 利用率欄位直接測量峰值 FLOPs
    • 忙碌的 GPU 必須是計算受限
    • 高已分配記憶體證明裝置記憶體頻寬已飽和
    • 工作負載可能是記憶體受限或使用低效核心
  4. 在訓練步驟之間 GPU 活動低可能表示什麼?
    • 輸入管線或同步可能正在阻塞裝置
    • 低利用率證明所有模型參數都能放入 VRAM
    • 較長的步驟表示訓練過程已過度擬合
    • 模型必須在峰值吞吐量下使用張量核心
  5. 哪個 DCGM 指標可以協助評估記憶體流量活動?
    • SM 佔用率比例
    • GPU 記憶體已分配(MiB)
    • DRAM 活動或使用率比例
    • Tensor-pipe 活動比例
  6. 溫度、時鐘與功率能協助診斷什麼?
    • 模型是否存在類別不平衡
    • 熱能或功率限制影響效能
    • 資料載入器工作者是否有重複樣本
    • 模型是否使用分組查詢注意力
  7. 閱讀 DCGM 指標後,工程師何時應使用框架分析器?
    • 當 DCGM 欄位顯示慢核的精確來源行時
    • 當核在任何執行遠端資訊存在前失敗編譯時
    • 在收集聚合指標之前,以便分析器有基準
    • 當聚合遙測無法辨識緩慢的核心或運算子時
  8. 為什麼要在利用率資料中記錄抽樣期間與硬體環境?
    • 抽樣間隔與裝置細節會影響指標的解讀
    • 抽樣期間不會產生影響,因為計數器是即時的
    • 裝置細節決定模型輸出標籤
    • 記錄環境可確保各次執行的吞吐量相等