引導式測驗 · 硬 等級
FP8 和低精度格式測驗
練習 FP8 指數和尾數選擇、縮放比例和硬體要求,包括為什麼較小的數字格式不能保證相同的輸出。
問題 1 的 8
與標準 FP32 數字相比,FP8 數字使用多少位元?
預覽每個問題8 問題
當您參加測驗時,就會出現答案和解釋。
- 與標準 FP32 數字相比,FP8 數字使用多少位元?
- 8 位 vs 16 位(一半)
- 8 位與 64 位(八分之一)
- 8 位與 32 位(四分之一)
- 8 位 vs 8 位(相同)
- 「E4M3」和「E5M2」標籤描述了 FP8 格式的哪些內容?
- 錯誤率和模型大小
- 指數位數與尾數位數
- 時脈速度和記憶體通道
- 訓練時期和模型層
- 為什麼 FP8 管路會將縮放因子應用於張量?
- 為了安全起見對權重進行加密
- 增加模型層數
- 將模型轉換為不同的語言
- 將數值保持在 FP8 的窄可表示範圍內並避免上溢/下溢
- 使用 FP8 的主要缺點是什麼?
- 數值精度降低(捨入誤差)
- 更高的記憶體使用率
- 較慢的矩陣乘法
- 無法在任何 GPU 上運行
- 哪一代 NVIDIA GPU 首先新增了 FP8 矩陣數學的專用硬體支援?
- 帕斯卡 (P100)
- 料斗 (H100)
- 開普勒 (K80)
- 麥克斯韋 (M40)
- 超越 FP8 的精度格式的趨勢是什麼?
- 返回 64 位雙精度進行推理
- 完全消除浮點數以支援文本
- 所有模型權重僅使用 FP32
- 甚至更低位元的微縮放格式,如 MXFP4 和 NVFP4
- A tensor’s values need more dynamic range. Which common FP8 encoding allocates more exponent bits?
- E5M2
- E4M3
- Both allocate zero exponent bits
- Neither encoding uses an exponent
- Why can an FP8 result differ from the same operation using FP32 inputs?
- Eight-bit input storage is automatically exact for every real value
- FP8 removes all mathematical operations
- The lower-precision input representation can introduce rounding error
- Higher-precision accumulation restores every lost input detail