Тест, свързан с ръководство · трудно Ниво
Тест за FP8 и формати с ниска точност
Практикувайте FP8 избор на експонент и мантиса, мащабиране и хардуерни изисквания, включително защо по-малък числов формат не гарантира идентични изходи.
Въпрос 1 на 8
Колко бита използва едно число FP8 в сравнение със стандартно число FP32?
Визуализирайте всеки въпрос8 въпроси
Отговорите и обясненията се появяват, докато отговаряте на теста.
- Колко бита използва едно число FP8 в сравнение със стандартно число FP32?
- 8 бита срещу 16 бита (половин)
- 8 бита срещу 64 бита (една осма)
- 8 бита срещу 32 бита (една четвърт)
- 8 бита срещу 8 бита (същото)
- Какво описват етикетите „E4M3“ и „E5M2“ за формат FP8?
- Процент на грешки и размер на модела
- Броят на експонентните битове спрямо битовете на мантисата
- Тактова честота и канал на паметта
- Обучителните епохи и моделните слоеве
- Защо тръбопроводите FP8 прилагат коефициенти на мащабиране към тензорите?
- За да шифровате теглата за сигурност
- За да увеличите броя на слоевете на модела
- За да конвертирате модела на различен език
- За да запазите стойностите в тесния представим диапазон на FP8 и да избегнете препълване/недостатъчно препълване
- Кой компромис е основният недостатък на използването на FP8?
- Намалена цифрова точност (грешки при закръгляване)
- По-високо използване на паметта
- По-бавно умножение на матрицата
- Невъзможност за работа на който и да е GPU
- Кое поколение GPU на NVIDIA първо добави специална хардуерна поддръжка за FP8 матрична математика?
- Паскал (P100)
- Бункер (H100)
- Кеплер (K80)
- Максуел (M40)
- Каква е тенденцията при прецизните формати, преминаващи отвъд FP8?
- Връщане към 64-битова двойна точност за извод
- Изцяло премахване на плаваща запетая в полза на текст
- Използва се само FP32 за всички тегла на моделите
- Дори формати с микромащабиране с по-нисък бит като MXFP4 и NVFP4
- A tensor’s values need more dynamic range. Which common FP8 encoding allocates more exponent bits?
- E5M2
- E4M3
- Both allocate zero exponent bits
- Neither encoding uses an exponent
- Why can an FP8 result differ from the same operation using FP32 inputs?
- Eight-bit input storage is automatically exact for every real value
- FP8 removes all mathematical operations
- The lower-precision input representation can introduce rounding error
- Higher-precision accumulation restores every lost input detail