引導式測驗 · 硬 等級

AI晶片和硬體測驗

透過工作負載、記憶體、精確度、軟體支援、多裝置開銷和可重複的有用效能測量來評估 AI 硬體。

相關引導路徑人工智慧晶片
問題 1 的 8

What should a team define before comparing AI hardware?

預覽每個問題8 問題

當您參加測驗時,就會出現答案和解釋。

  1. What should a team define before comparing AI hardware?
    • The workload, such as training, interactive inference, or on-device processing
    • Only the model parameter count
    • 供應商的最高運算次數
    • 模型名稱
  2. 為什麼僅憑峰值運算效能無法預測應用程式速度?
    • 峰值數據包含顯示器更新率
    • 記憶體搬移、軟體及其他瓶頸可能成為主要限制
    • 所有工作負載皆為運算受限
    • 運算與模型無關
  3. 除了運算能力外,還應檢查什麼?
    • 僅查看已發布的權重檔案大小
    • 僅查看最大利用率下的運算吞吐量
    • 記憶體容量與頻寬,包括緩衝區與快取狀態
    • 僅查看所有裝置的記憶體總和
  4. 指南對於分散在多個裝置上的記憶體有何提醒?
    • 它總是變成一個無縫的記憶體池
    • 它消除了通訊成本
    • 它保證了模型品質
    • 總記憶體並不自動構成一個簡單的記憶體池
  5. 使用低精度數值格式時,團隊應評估什麼?
    • 在目標模型和任務上的準確度變化
    • 僅查看模型檔案是否變小
    • 僅查看該數值格式是否被宣傳
    • 在未執行模型的情況下查看峰值運算速率
  6. 何時實際使用了所宣傳的硬體功能?
    • 只要晶片具有高峰值分數
    • 當硬體支援、核心函式庫及框架都使用它時
    • 僅在基準測試這麼說時
    • 列於手冊時
  7. 指南建議使用哪些測量來進行可重現的硬體比較?
    • 僅峰值算術
    • 僅供廠商示範
    • 在指定設定下的延遲、吞吐量、功耗與每項有用任務的成本
    • 僅處理器數量
  8. 在實作範例中,十億個參數每個 16 位元的儲存大約需要多少權重儲存空間?
    • 整個系統 200 MB
    • 包含所有執行時緩衝區共 20 GB
    • 包含激活與快取共 2 GB
    • 僅權重 2 GB;其他記憶體需求不計入