የቋንቋ AI መመሪያ

QLoRA እና 4-bit Fine-Tuning

QLoRA የቀዘቀዘውን ሞዴል በክብደት በ4 ቢት ብቻ በማከማቸት በአንድ የሸማች ጂፒዩ ላይ አንድ ትልቅ የቋንቋ ሞዴል እንዲያስተካክሉ የሚያስችልዎ ዘዴ ነው።

2 ሚን አንብብለመጨረሻ ጊዜ የዘመነው

አጠቃላይ እይታ

It made customizing 65B-parameter models possible on hardware that previously could only handle models a fraction of that size.

ጥልቅ ዳይቭ

በተለምዶ ትልቅ ሞዴልን በጥሩ ሁኔታ ማስተካከል ማለት እያንዳንዱን ክብደት በ16-ቢት ትክክለኛነት መጫን እና ሁሉንም ማዘመን ማለት ትልቅ ማህደረ ትውስታን ይፈልጋል። QLoRA ሁለት ሃሳቦችን ያጣምራል። በመጀመሪያ፣ ቀድሞ የሰለጠነውን ሞዴል ያቀዘቅዘዋል እና ወደ 4 ቢት ይቆጥባል፣ ማህደረ ትውስታን በአራት እጥፍ ይቀንሳል። ሁለተኛ፣ LoRAን ይጠቀማል፡ ግዙፉን የክብደት ማትሪክስ ከማዘመን ይልቅ ትንንሽ መሰልጠን የሚችሉ ዝቅተኛ ደረጃ አስማሚ ማትሪክቶችን ከጎናቸው ስለሚያስገባ ጥቂት ሚሊዮን መለኪያዎች ብቻ ይሻሻላሉ። ባለ 4-ቢት መሰረቱ ተስተካክሎ ይቆያል ቅልመት በትናንሽ አስማሚዎች ብቻ ይፈስሳሉ። እ.ኤ.አ. በ2023 በዴትመርስ እና ባልደረቦች የተዋወቀው QLoRA የ65B ሞዴልን በአንድ 48GB ጂፒዩ ላይ ማስተካከል ከሙሉ ባለ 16-ቢት ጥሩ ማስተካከያ ጥራት ጋር ሊዛመድ እንደሚችል አሳይቷል።

ቴክኒካዊ ግንዛቤ

QLoRA ሶስት ዘዴዎችን አስተዋወቀ። NF4 (4-ቢት NormalFloat) ለነርቭ ክብደቶች ደወል-ከርቭ ስርጭት የተመቻቸ የውሂብ አይነት ነው፣ ይህም ከ plain int4 የተሻለ ትክክለኛነትን ይሰጣል። ድርብ አሃዛዊ (Quantization) የኳታላይዜሽን ቋሚዎችን እራሳቸው ይጨመቃል፣ ይህም ተጨማሪ ማህደረ ትውስታን ይቆጥባል። የገጽታ አመቻቾች ጂፒዩ-ሲፒዩ የተዋሃደ ማህደረ ትውስታን በመጠቀም ረዣዥም ቅደም ተከተሎችን ለመምጠጥ፣ከማስታወስ ውጪ ያሉ ብልሽቶችን ይከላከላል። ወደፊት እና ወደ ኋላ ማለፊያ ጊዜ፣ 4-ቢት ክብደቶች ወደ 16-ቢት ልክ በጊዜ-ጊዜ ማትሪክስ ይባዛሉ፣ ከዚያም ይጣላሉ።

ስልታዊ ተጽእኖ

ፍጥነት እና ልኬት

የቋንቋ የስራ ፍሰቶች ወጥነትን ሳያጠፉ በፍጥነት ሊንቀሳቀሱ ይችላሉ።

መድረስ እና መድረስ

በቋንቋዎች እና በመግባቢያ ዘይቤዎች ተደራሽነትን ያሰፋዋል።

ግልጽ ውሳኔዎች

አውቶሜሽን ድግግሞሹን ሲቆጣጠር ቡድኖች በፍርድ ላይ ብዙ ጊዜ ሊያጠፉ ይችላሉ።

የQLoRA እና የ4-ቢት ጥሩ ማስተካከያ የወደፊት ዕጣ

4-ቢት ጥሩ ማስተካከያ መደበኛ ልምምድ ሆኗል፣ እና ምርምር አሁን ባለ2-ቢት እና 1-ቢት (ሦስተኛ) ውክልናዎችን ጨምሮ ወደ ዝቅተኛ ትክክለኛነት ይገፋል። እንደ AWQ፣ GPTQ እና HQQ ያሉ አዳዲስ የመጠን አወጣጥ እቅዶች ትክክለኛነትን የበለጠ ያጠራሉ፣ እንደ QA-LoRA ያሉ ቴክኒኮች ደግሞ አስማሚዎችን ከተዋሃዱ በኋላም ሞዴሉን በቁጥር እንዲጠኑ ለማድረግ ያለመ ነው። ክፍት ክብደት ያላቸው ሞዴሎች እያደጉ ሲሄዱ፣ የትርፍ ጊዜ ማሳለፊያዎች 70B-plus ሞዴሎችን በአንድ ጨዋታ ጂፒዩ ላይ በጥሩ ሁኔታ እንዲያስተካክሉ የሚያደርግ፣ ዲሞክራሲያዊ ማበጀትን የሚፈቅድ መሳሪያን ይጠብቁ።

የእውነተኛ-ዓለም አተገባበር

የአገልጋይ ክላስተር ሳይከራይ በራሱ የብራንድ ድምፅ የደንበኛ ድጋፍ ሰጪ ረዳት ለመገንባት አንድ ጀማሪ የ70ቢ ላማ ሞዴልን በአንድ ባለ 48ጂቢ ጂፒዩ አስተካክሏል።

ከአንድ ሸማች RTX 4090 ጋር ያለው ተመራማሪ በአንድ ጀምበር አንድ ትልቅ የሕክምና ጥያቄ-መልስ ዳታ ስብስብ ጋር ክፍት ሞዴልን ያስተካክላል።

ገንቢ በደርዘን የሚቆጠሩ ትናንሽ፣ ሊለዋወጡ የሚችሉ LoRA አስማሚዎችን ለተለያዩ ስራዎች ይፈጥራል፣ ሁሉም በማህደረ ትውስታ ውስጥ የተጫነ ባለ 4-ቢት ቤዝ ሞዴልን ያጋራሉ።

የትርፍ ጊዜ ማሳለፊያ ፈላጊዎች ነፃ የኮላብ ደረጃ ሃርድዌርን በመጠቀም የተለየ የአጻጻፍ ስልት ለመኮረጅ በግላቸው የውይይት ምዝግብ ማስታወሻዎች ላይ ሞዴልን ያስተካክላሉ።

አደጋዎች እና የጥበቃ መንገዶች

የተሳሳቱ እውነታዎች በጸጥታ ወደ ሪፖርቶች፣ የድጋፍ ፍሰቶች ወይም የምርምር ውጤቶችን ማስገባት ይችላሉ።

ፈጣን ትብነት በተመሳሳይ ጥያቄዎች ላይ የማይጣጣሙ ውጤቶችን ሊፈጥር ይችላል።

የመዳረሻ መቆጣጠሪያዎች ደካማ ከሆኑ ሚስጥራዊነት ያለው የጽሑፍ ውሂብ ሊጋለጥ ይችላል።

የትግበራ ፍኖተ ካርታ

1

ከመልቀቅዎ በፊት የውጤት ቅርጸትን፣ ድምጽን እና የጥራት ደረጃዎችን ይግለጹ።

2

ትክክለኛነት አስፈላጊ በሚሆንበት ጊዜ ሁሉ ከታመኑ ምንጮች ጋር ምላሾች።

3

ከፍተኛ ውጤት ለማግኘት የሰው የግምገማ ነጥብ አቆይ።

4

የውድቀት ንድፎችን ይከታተሉ እና ጥያቄዎችን ወይም የስራ ፍሰቶችን በመደበኛነት ያሠለጥኑ።

ማሰስዎን ይቀጥሉ

ChatGPT እና LLMs

የዘመናዊ ቋንቋ ሞዴሎች እንዴት እንደሚያመነጩ እና እንደሚያስቡ ይመልከቱ።

መመሪያ ያንብቡ

NLP መሰረታዊ ነገሮች

ከእነዚህ መሳሪያዎች በስተጀርባ ያለውን የቋንቋ ማቀናበሪያ መሰረታዊ ነገሮችን ይማሩ።

መመሪያ ያንብቡ

Free newsletter

Get the daily AI briefing

Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.

One email each weekday. Unsubscribe in one click. We never sell or share your address.

Test yourself

Take the QLoRA and 4-Bit Fine-Tuning quiz

Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.

ጥያቄ ጀምር

Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation

ቀጣይ መመሪያ

ውድቅ የተደረገ ናሙና ጥሩ-ማስተካከል

ቀጣዩን መመሪያ ያንብቡ ሁሉንም ጥያቄዎች ያስሱ

በተደጋጋሚ የሚጠየቁ ጥያቄዎች

What is QLoRA and 4-Bit Fine-Tuning?

QLoRA የቀዘቀዘውን ሞዴል በክብደት በ4 ቢት ብቻ በማከማቸት በአንድ የሸማች ጂፒዩ ላይ አንድ ትልቅ የቋንቋ ሞዴል እንዲያስተካክሉ የሚያስችልዎ ዘዴ ነው። 65B-parameter ሞዴሎችን በሃርድዌር ላይ ማበጀት የሚቻል ሲሆን ይህም ከዚህ በፊት የዚያ መጠን ክፍልፋይ ሞዴሎችን ማስተናገድ ይችላል።

ከQLoRA '4-ቢት' ክፍል በስተጀርባ ያለው ዋና ማህደረ ትውስታ ቆጣቢ ሀሳብ ምንድን ነው?

QLoRA የቀዘቀዙትን ቀድሞ የሰለጠኑ ክብደቶችን በ4 ቢት ዋጋ ያከማቻል፣ ማህደረ ትውስታን ከ16-ቢት ጋር ሲነፃፀር በአራት እጥፍ ይቀንሳል።

በQLoRA ጥሩ ማስተካከያ ወቅት የትኞቹ መለኪያዎች በእርጋታ የዘር ውርስ የሚዘምኑት?

የመሠረቱ ሞዴል በረዶ ነው; የተወጉ ዝቅተኛ ደረጃ አስማሚ ማትሪክስ የግራዲየንት ማሻሻያዎችን ብቻ ይቀበላሉ፣ ይህም ትንሽ የመለኪያ ክፍል ነው።

በQLoRA አውድ ውስጥ NF4 ምንድን ነው?

ኤንኤፍ4 (NormalFloat 4-ቢት) ከፕላን 4 ለተሻለ ትክክለኛነት በቤል-ከርቭ የነርቭ ኔትወርክ ክብደቶች ስርጭት ዙሪያ የተነደፈ የውሂብ አይነት ነው።

በQLoRA አድራሻ 'የገጽ አመቻቾች' ምን ችግር አለባቸው?

Paged optimizers የማህደረ ትውስታ ስፒሎችን ለመምጠጥ ጂፒዩ-ሲፒዩ የተዋሃደ ማህደረ ትውስታን ይጠቀማሉ፣ ይህም በረጅም ግብአቶች ላይ ስልጠና በሚሰጥበት ጊዜ ከትውስታ ውጪ የሚደርሱ ብልሽቶችን ይከላከላል።

በስልጠና ወቅት የ 4-ቢት ክብደቶች ወደ ከፍተኛ ትክክለኛነት የሚቀየሩት መቼ ነው?

4-ቢት ክብደቶች በበረራ ላይ ወደ 16-ቢት ትክክለኛነት ተወስነዋል ለእያንዳንዱ ማትሪክስ ማባዛት፣ ከዚያም ከፍተኛ-ትክክለኛው ቅጂ ማህደረ ትውስታን ለመቆጠብ ይጣላል።

ተዛማጅ መመሪያዎች