Kuis terkait panduan · Keras Tingkat

FP8 dan Kuis Format Presisi Rendah

Latih pilihan eksponen dan mantissa FP8, penskalaan, dan persyaratan perangkat keras, termasuk mengapa format angka yang lebih kecil tidak menjamin keluaran yang identik.

Jalur panduan terkaitFp8 Dan Format Presisi Rendah
Pertanyaan 1 dari 8

Berapa bit yang digunakan nomor FP8 dibandingkan dengan nomor FP32 standar?

Pratinjau setiap pertanyaan8 pertanyaan

Jawaban dan penjelasan muncul saat Anda mengikuti kuis.

  1. Berapa bit yang digunakan nomor FP8 dibandingkan dengan nomor FP32 standar?
    • 8 bit vs 16 bit (setengah)
    • 8 bit vs 64 bit (kedelapan)
    • 8 bit vs 32 bit (seperempat)
    • 8 bit vs 8 bit (sama)
  2. Apa yang dijelaskan oleh label 'E4M3' dan 'E5M2' tentang format FP8?
    • Tingkat kesalahan dan ukuran model
    • Jumlah bit eksponen versus bit mantissa
    • Kecepatan jam dan saluran memori
    • Zaman pelatihan dan lapisan model
  3. Mengapa pipeline FP8 menerapkan faktor penskalaan pada tensor?
    • Untuk mengenkripsi bobot demi keamanan
    • Untuk menambah jumlah lapisan model
    • Untuk mengonversi model ke bahasa lain
    • Untuk menjaga nilai-nilai di dalam rentang sempit FP8 yang dapat diwakilkan dan menghindari overflow/underflow
  4. Pertukaran apa yang menjadi kelemahan utama penggunaan FP8?
    • Mengurangi presisi numerik (kesalahan pembulatan)
    • Penggunaan memori lebih tinggi
    • Perkalian matriks lebih lambat
    • Ketidakmampuan untuk berjalan di GPU apa pun
  5. Generasi GPU NVIDIA manakah yang pertama kali menambahkan dukungan perangkat keras khusus untuk matematika matriks FP8?
    • Pascal (P100)
    • Pelompat (H100)
    • Kepler (K80)
    • Maxwell (M40)
  6. Bagaimana tren format presisi melampaui FP8?
    • Kembali ke presisi ganda 64-bit untuk inferensi
    • Menghilangkan floating point sepenuhnya demi teks
    • Hanya menggunakan FP32 untuk semua bobot model
    • Bahkan format skala mikro dengan bit lebih rendah seperti MXFP4 dan NVFP4
  7. A tensor’s values need more dynamic range. Which common FP8 encoding allocates more exponent bits?
    • E5M2
    • E4M3
    • Both allocate zero exponent bits
    • Neither encoding uses an exponent
  8. Why can an FP8 result differ from the same operation using FP32 inputs?
    • Eight-bit input storage is automatically exact for every real value
    • FP8 removes all mathematical operations
    • The lower-precision input representation can introduce rounding error
    • Higher-precision accumulation restores every lost input detail