引導式測驗 · 硬 等級
AI晶片和硬體測驗
透過工作負載、記憶體、精確度、軟體支援、多裝置開銷和可重複的有用效能測量來評估 AI 硬體。
問題 1 的 8
What should a team define before comparing AI hardware?
預覽每個問題8 問題
當您參加測驗時,就會出現答案和解釋。
- What should a team define before comparing AI hardware?
- The workload, such as training, interactive inference, or on-device processing
- Only the model parameter count
- 供應商的最高運算次數
- 模型名稱
- 為什麼僅憑峰值運算效能無法預測應用程式速度?
- 峰值數據包含顯示器更新率
- 記憶體搬移、軟體及其他瓶頸可能成為主要限制
- 所有工作負載皆為運算受限
- 運算與模型無關
- 除了運算能力外,還應檢查什麼?
- 僅查看已發布的權重檔案大小
- 僅查看最大利用率下的運算吞吐量
- 記憶體容量與頻寬,包括緩衝區與快取狀態
- 僅查看所有裝置的記憶體總和
- 指南對於分散在多個裝置上的記憶體有何提醒?
- 它總是變成一個無縫的記憶體池
- 它消除了通訊成本
- 它保證了模型品質
- 總記憶體並不自動構成一個簡單的記憶體池
- 使用低精度數值格式時,團隊應評估什麼?
- 在目標模型和任務上的準確度變化
- 僅查看模型檔案是否變小
- 僅查看該數值格式是否被宣傳
- 在未執行模型的情況下查看峰值運算速率
- 何時實際使用了所宣傳的硬體功能?
- 只要晶片具有高峰值分數
- 當硬體支援、核心函式庫及框架都使用它時
- 僅在基準測試這麼說時
- 列於手冊時
- 指南建議使用哪些測量來進行可重現的硬體比較?
- 僅峰值算術
- 僅供廠商示範
- 在指定設定下的延遲、吞吐量、功耗與每項有用任務的成本
- 僅處理器數量
- 在實作範例中,十億個參數每個 16 位元的儲存大約需要多少權重儲存空間?
- 整個系統 200 MB
- 包含所有執行時緩衝區共 20 GB
- 包含激活與快取共 2 GB
- 僅權重 2 GB;其他記憶體需求不計入