Викторина, связанная с руководством · Жесткий Уровень
Викторина FP8 и форматы низкой точности
Практикуйте выбор экспоненты и мантиссы FP8, масштабирование и требования к оборудованию, в том числе то, почему меньший числовой формат не гарантирует идентичные выходные данные.
Вопрос 1 из 8
Сколько бит использует число FP8 по сравнению со стандартным числом FP32?
Предварительный просмотр каждого вопроса8 вопросы
Ответы и пояснения появляются по мере прохождения теста.
- Сколько бит использует число FP8 по сравнению со стандартным числом FP32?
- 8 бит против 16 бит (половина)
- 8 бит против 64 бит (восьмая часть)
- 8 бит против 32 бит (четверть)
- 8 бит против 8 бит (то же самое)
- Что о формате FP8 говорят метки «E4M3» и «E5M2»?
- Частота ошибок и размер модели
- Количество битов экспоненты по сравнению с битами мантиссы
- Тактовая частота и канал памяти
- Эпохи обучения и слои модели
- Почему конвейеры FP8 применяют коэффициенты масштабирования к тензорам?
- Чтобы зашифровать веса в целях безопасности
- Увеличение количества слоев модели
- Чтобы преобразовать модель на другой язык
- Чтобы сохранить значения в узком представимом диапазоне FP8 и избежать переполнения/недополнения.
- Какой компромисс является основным недостатком использования FP8?
- Пониженная числовая точность (ошибки округления)
- Более высокое использование памяти
- Медленное умножение матриц
- Невозможность запуска на любом графическом процессоре
- Какое поколение графических процессоров NVIDIA впервые добавило специальную аппаратную поддержку матричных вычислений FP8?
- Паскаль (P100)
- Бункер (H100)
- Кеплер (К80)
- Максвелл (M40)
- Какова тенденция выхода точных форматов за рамки FP8?
- Возврат к 64-битной двойной точности для вывода
- Полностью исключить плавающую точку в пользу текста
- Использование только FP32 для всех весов моделей.
- Даже низкобитные форматы микромасштабирования, такие как MXFP4 и NVFP4.
- A tensor’s values need more dynamic range. Which common FP8 encoding allocates more exponent bits?
- E5M2
- E4M3
- Both allocate zero exponent bits
- Neither encoding uses an exponent
- Why can an FP8 result differ from the same operation using FP32 inputs?
- Eight-bit input storage is automatically exact for every real value
- FP8 removes all mathematical operations
- The lower-precision input representation can introduce rounding error
- Higher-precision accumulation restores every lost input detail