引导式测验 · 硬 等级
FP8 和低精度格式测验
练习 FP8 指数和尾数选择、缩放比例和硬件要求,包括为什么较小的数字格式不能保证相同的输出。
问题 1 的 8
与标准 FP32 数字相比,FP8 数字使用多少位?
预览每个问题8 问题
当您参加测验时,就会出现答案和解释。
- 与标准 FP32 数字相比,FP8 数字使用多少位?
- 8 位 vs 16 位(一半)
- 8 位与 64 位(八分之一)
- 8 位与 32 位(四分之一)
- 8 位 vs 8 位(相同)
- “E4M3”和“E5M2”标签描述了 FP8 格式的哪些内容?
- 错误率和模型大小
- 指数位数与尾数位数
- 时钟速度和内存通道
- 训练时期和模型层
- 为什么 FP8 管道将缩放因子应用于张量?
- 为了安全起见对权重进行加密
- 增加模型层数
- 将模型转换为不同的语言
- 将值保持在 FP8 的窄可表示范围内并避免上溢/下溢
- 使用 FP8 的主要缺点是什么?
- 数值精度降低(舍入误差)
- 更高的内存使用率
- 较慢的矩阵乘法
- 无法在任何 GPU 上运行
- 哪一代 NVIDIA GPU 首先添加了对 FP8 矩阵数学的专用硬件支持?
- 帕斯卡 (P100)
- 料斗 (H100)
- 开普勒 (K80)
- 麦克斯韦 (M40)
- 超越 FP8 的精度格式的趋势是什么?
- 返回 64 位双精度进行推理
- 完全消除浮点数以支持文本
- 所有模型权重仅使用 FP32
- 甚至更低位的微缩放格式,如 MXFP4 和 NVFP4
- A tensor’s values need more dynamic range. Which common FP8 encoding allocates more exponent bits?
- E5M2
- E4M3
- Both allocate zero exponent bits
- Neither encoding uses an exponent
- Why can an FP8 result differ from the same operation using FP32 inputs?
- Eight-bit input storage is automatically exact for every real value
- FP8 removes all mathematical operations
- The lower-precision input representation can introduce rounding error
- Higher-precision accumulation restores every lost input detail