FP8 እና ዝቅተኛ ትክክለኛነት ቅርጸቶች
FP8 የ 8-ቢት ተንሳፋፊ ነጥብ ቁጥር ቅርጸት ነው AI ሞዴሎች ክብደቶችን እንዲያከማቹ እና ከመደበኛ ባለ 32 ቢት ቁጥሮች ሩቡን በመጠቀም ሂሳብን እንዲያካሂዱ ያስችላቸዋል።
አጠቃላይ እይታ
ግዙፍ ሞዴሎችን ለማሰልጠን እና ለማገልገል ርካሽ እና ፈጣን ለማድረግ ቁልፍ ዘዴ ነው።
ጥልቅ ዳይቭ
የነርቭ መረቦች በቢሊዮኖች የሚቆጠሩ ቁጥሮች የተሰሩ ናቸው. በተለምዶ እነዚህ ቁጥሮች እያንዳንዳቸው 32 ቢት (FP32) ወይም 16 ቢት (FP16/BF16) ይጠቀሙ ነበር። FP8 ወደ 8 ቢት ብቻ ያደርጋቸዋል፣ ማህደረ ትውስታን እና የመተላለፊያ ይዘትን በግማሽ ከ16-ቢት ጋር ይቆርጣል። ሁለት የተለመዱ የFP8 አቀማመጦች አሉ፡ E4M3 (4 ገላጭ ቢት፣ 3 ማንቲሳ ቢት) የበለጠ ትክክለኛነትን ይሰጣል ግን ትንሽ ክልል፣ እና E5M2 (5 ገላጭ፣ 2 ማንቲሳ) ሰፋ ያለ ክልልን ይሰጣል ነገር ግን ጠባብ ደረጃዎች። ግብይቱ ታማኝነት ነው፡ ያነሱ ቢት ማለት የማጠጋጋት ስህተቶች ማለት ነው። ትክክለኛነትን ለመጠበቅ ማዕቀፎች በ FP8 ጥቅም ላይ በሚውልበት ክልል ውስጥ እሴቶችን የሚያስተካክሉ በያንዳንዱ ቴንስ ወይም በብሎክ የመጠን መለኪያዎችን ይተገበራሉ። የNVDIA Hopper እና ብላክዌል ጂፒዩዎች ሃርድዌር FP8 ማትሪክስ ሞተሮች ጨምረዋል፣ ይህም ለሥልጠና እና ለግምት ተግባራዊ እንዲሆን አድርጎታል። እንደ MXFP8፣ MXFP4 እና NVFP4 ያሉ አዳዲስ ቅርጸቶች በተጋሩ ማይክሮ-ስኬል ብሎኮች እንኳን ዝቅ ያደርጋሉ።
ቴክኒካዊ ግንዛቤ
የFP8 ፈተና ተለዋዋጭ ክልል ነው። በጣት በሚቆጠሩ ገላጭ ቢትስ፣ ትላልቅ ወይም ጥቃቅን ማነቃቂያዎች ይጎርፋሉ ወይም ወደ ዜሮ ይጎርፋሉ። ማስተካከያው እየሰፋ ነው፡ ቴንሰርን በፋክተር በማባዛ እሴቶቹ በFP8 በሚወከለው መስኮት ላይ እንዲያርፉ፣ FP8 ማባዛት ያድርጉ፣ ከዚያ መልሰው ያካፍሉ፣ ብዙ ጊዜ ከፊል ድምር በከፍተኛ ትክክለኛነት (FP16/FP32) ያከማቻል። E4M3 በተለምዶ ለክብደት እና ለማንቃት፣ E5M2 ለግራዲየቶች ከትክክለኛነቱ በላይ አስፈላጊ ነው።
ስልታዊ ተጽእኖ
ወጪ እና በጀት
የስነ-ህንፃ ውሳኔዎች ለዓመታት አፈጻጸምን እና የሥራ ማስኬጃ ወጪዎችን ያንቀሳቅሳሉ.
ግልጽ ውሳኔዎች
የቴክኒክ ትምህርት ቡድኖች አዲሱን ብቻ ሳይሆን ትክክለኛውን ቁልል እንዲመርጡ ይረዳል።
የጥራት ቁጥጥር
የተሻሉ የምህንድስና ምርጫዎች በምርት ውስጥ አስተማማኝነት ክስተቶችን ይቀንሳሉ.
የFP8 እና የዝቅተኛ ትክክለኛነት ቅርጸቶች የወደፊት ዕጣ
ትክክለኛነት ወደ ታች እየሮጠ ነው። FP8 ከመጣ በኋላ 4-ቢት ማይክሮ-ስኬል ቅርፀቶች (MXFP4፣ NVFP4) በትንሽ ብሎክ ትንሽ የጋራ ሚዛን ያሸጉ እና ብላክዌል ሃርድዌር አሁን FP4ን በቀጥታ ያፋጥነዋል። የተቀላቀሉ ትክክለኛ የምግብ አዘገጃጀቶችን ይጠብቁ የተለያዩ ንብርብሮች የተለያዩ የቢት-ስፋት ስፋቶችን፣ እና የተሻለ የቁጥር እውቀት ያለው ስልጠና 4-ቢት ለግምገማ ነባሪ ይሆናል። የፍጻሜው ጨዋታ የድንበር-ሚዛን ሞዴሎችን በትንሽ ርካሽ ቺፖች ላይ እየጠበበ ያለ የጥራት ኪሳራ እየጠበበ ነው።
የእውነተኛ-ዓለም አተገባበር
FP8ን በመጠቀም ትላልቅ የቋንቋ ሞዴሎችን በNVadi Hopper/Blackwell GPUs በማሰልጠን ከ BF16 ጋር በግምት በእጥፍ
አንድ ሞዴል ባነሰ ጂፒዩዎች እንዲገጥም እና በሰከንድ ተጨማሪ ጥያቄዎችን እንዲመልስ በFP8 ውስጥ የቻትቦት መረጃን ማገልገል
በተከፋፈለ ስልጠና ወቅት E5M2ን በመጠቀም ቀስ በቀስ ግንኙነትን በመጠቀም የኔትወርክን የመተላለፊያ ይዘትን በመስቀለኛ መንገድ ለመቁረጥ
MXFP4/NVFP4-Quantized ሞዴሎችን በርካሽ ግምት በአንድ ባለ ከፍተኛ ማህደረ ትውስታ ጂፒዩ ላይ የድንበር-ሚዛን ሞዴልን ማሰማራት
አደጋዎች እና የጥበቃ መንገዶች
አንድ ቤንችማርክን ማሳደግ ሰፋ ያሉ የስርዓት ድክመቶችን ሊደብቅ ይችላል።
የመሠረተ ልማት እና የጥገና ወጪዎች ብዙ ጊዜ ዝቅተኛ ናቸው.
ስርዓቶች ይበልጥ ውስብስብ ሲሆኑ የደህንነት እና የታዛቢነት ክፍተቶች ሊያድጉ ይችላሉ።
የትግበራ ፍኖተ ካርታ
ከመተግበሩ በፊት የቆይታ፣ የጥራት እና የወጪ ግቦችን ይግለጹ።
ቤንችማርክ በእውነተኛ ጭነት እና የውሂብ ሁኔታዎች።
ለስህተቶች፣ ተንሸራታች እና የተጠቃሚ ተጽእኖ የመሳሪያ ክትትል።
ከመጠኑ በፊት የመመለሻ እና የአደጋ ምላሽ መንገዶችን ያዘጋጁ።
ማሰስዎን ይቀጥሉ
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the FP8 and Low-Precision Formats quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
ቀጣይ መመሪያ
ሞዴል ተከታታይ ቅርጸቶች
በተደጋጋሚ የሚጠየቁ ጥያቄዎች
FP8 እና ዝቅተኛ ትክክለኛነት ቅርጸቶች ምንድን ናቸው?
FP8 የ 8-ቢት ተንሳፋፊ ነጥብ ቁጥር ቅርጸት ነው AI ሞዴሎች ክብደቶችን እንዲያከማቹ እና ከመደበኛ ባለ 32 ቢት ቁጥሮች ሩቡን በመጠቀም ሂሳብን እንዲያካሂዱ ያስችላቸዋል። ግዙፍ ሞዴሎችን ለማሰልጠን እና ለማገልገል ርካሽ እና ፈጣን ለማድረግ ቁልፍ ዘዴ ነው።
ከመደበኛ FP32 ቁጥር ጋር ሲነጻጸር የFP8 ቁጥር ስንት ቢት ይጠቀማል?
FP8 8 ቢት ሲጠቀም FP32 32 ቢት ይጠቀማል፣ ስለዚህ FP8 የማከማቻ እና የመተላለፊያ ይዘት አንድ አራተኛ ይወስዳል።
የ'E4M3' እና 'E5M2' መለያዎች ስለ FP8 ቅርጸት ምን ይገልጻሉ?
E4M3 ማለት 4 ገላጭ ቢት እና 3 ማንቲሳ ቢት; E5M2 ማለት 5 ገላጭ እና 2 ማንቲሳ ቢት ማለት ነው። ተጨማሪ ገላጭ ቢት ክልሉን ያሰፋሉ; ተጨማሪ ማንቲሳ ቢቶች ትክክለኛነትን ይጨምራሉ።
ለምንድን ነው FP8 ቧንቧዎች የመጠን መለኪያዎችን በ tenors ላይ ይተገበራሉ?
በጣም ጥቂት ገላጭ ቢት ሲኖር ትልልቅ እሴቶች ሞልተው ትንንሾቹ ወደ ዜሮ ይጎርፋሉ። ማመጣጠን ቴነሮችን ከሒሳብ በፊት ወደ FP8 ጥቅም ላይ በሚውለው መስኮት ላይ ይተካል።
የ FP8 አጠቃቀም ዋነኛው ኪሳራ የትኛው ንግድ ነው?
ያነሱ ቢት ማለት የጠበበ ውክልና እና የበለጠ የማጠጋጋት ስህተት ማለት ነው። ጥቅሙ በጣም ያነሰ ማህደረ ትውስታ እና የመተላለፊያ ይዘት እና በሚደገፉ ሃርድዌር ላይ ፈጣን ሂሳብ ነው።
የትኛው የNVIDIA ጂፒዩ ትውልድ ለFP8 ማትሪክስ ሒሳብ የወሰነ የሃርድዌር ድጋፍን ለመጀመሪያ ጊዜ አክሏል?
እንደ H100 ያሉ ሆፐር ላይ የተመሰረቱ ጂፒዩዎች የFP8 Tensor Core ድጋፍን አስተዋውቀዋል፣ እና ብላክዌል በኋላ ይህንን ወደ FP4 አራዘመው።