গাইড লিঙ্ক ক্যুইজ · কঠিন স্তর
FP8 এবং নিম্ন-নির্ভুল ফর্ম্যাট কুইজ
FP8 এক্সপোনেন্ট এবং ম্যান্টিসা পছন্দ, স্কেলিং এবং হার্ডওয়্যার প্রয়োজনীয়তা অনুশীলন করুন, কেন একটি ছোট সংখ্যা বিন্যাস অভিন্ন আউটপুট গ্যারান্টি দেয় না।
প্রশ্ন 1 এর 8
একটি FP8 সংখ্যা একটি আদর্শ FP32 সংখ্যার তুলনায় কত বিট ব্যবহার করে?
প্রতিটি প্রশ্নের পূর্বরূপ দেখুন8 প্রশ্ন
আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।
- একটি FP8 সংখ্যা একটি আদর্শ FP32 সংখ্যার তুলনায় কত বিট ব্যবহার করে?
- 8 বিট বনাম 16 বিট (অর্ধেক)
- 8 বিট বনাম 64 বিট (একটি অষ্টম)
- 8 বিট বনাম 32 বিট (এক চতুর্থাংশ)
- 8 বিট বনাম 8 বিট (একই)
- 'E4M3' এবং 'E5M2' লেবেলগুলি একটি FP8 বিন্যাস সম্পর্কে কী বর্ণনা করে?
- ত্রুটি হার এবং মডেল আকার
- সূচক বিটের সংখ্যা বনাম ম্যান্টিসা বিট
- ঘড়ির গতি এবং মেমরি চ্যানেল
- প্রশিক্ষণ যুগ এবং মডেল স্তর
- কেন FP8 পাইপলাইনগুলি টেনসরগুলিতে স্কেলিং ফ্যাক্টরগুলি প্রয়োগ করে?
- নিরাপত্তার জন্য ওজন এনক্রিপ্ট করতে
- মডেল স্তর সংখ্যা বৃদ্ধি
- মডেলটিকে একটি ভিন্ন ভাষায় রূপান্তর করতে
- FP8 এর সংকীর্ণ প্রতিনিধিত্বযোগ্য পরিসরের মধ্যে মান রাখতে এবং ওভারফ্লো/আন্ডারফ্লো এড়াতে
- কোন ট্রেড-অফ FP8 ব্যবহার করার প্রধান খারাপ দিক?
- হ্রাসকৃত সংখ্যাগত নির্ভুলতা (বৃত্তাকার ত্রুটি)
- উচ্চ মেমরি ব্যবহার
- ধীর ম্যাট্রিক্স গুণন
- কোনো GPU তে চালানোর অক্ষমতা
- কোন NVIDIA GPU জেনারেশন প্রথম FP8 ম্যাট্রিক্স ম্যাথের জন্য ডেডিকেটেড হার্ডওয়্যার সমর্থন যোগ করেছে?
- প্যাসকেল (P100)
- হপার (H100)
- কেপলার (K80)
- ম্যাক্সওয়েল (M40)
- FP8 এর বাইরে নির্ভুল ফর্ম্যাটের প্রবণতা কী?
- অনুমানের জন্য 64-বিট দ্বিগুণ নির্ভুলতায় ফিরে আসা
- সম্পূর্ণরূপে পাঠ্যের পক্ষে ভাসমান বিন্দু দূর করা
- সমস্ত মডেলের ওজনের জন্য শুধুমাত্র FP32 ব্যবহার করা হচ্ছে
- এমনকি MXFP4 এবং NVFP4 এর মতো নিম্ন-বিট মাইক্রো-স্কেলিং ফরম্যাট
- A tensor’s values need more dynamic range. Which common FP8 encoding allocates more exponent bits?
- E5M2
- E4M3
- Both allocate zero exponent bits
- Neither encoding uses an exponent
- Why can an FP8 result differ from the same operation using FP32 inputs?
- Eight-bit input storage is automatically exact for every real value
- FP8 removes all mathematical operations
- The lower-precision input representation can introduce rounding error
- Higher-precision accumulation restores every lost input detail