InayofuataMwongozo unaofuata
Fine-Tuning vs RAG vs Prompting
Lugha AI
Lugha AI MWONGOZO
QLoRA na 4-Bit Fine-Tuning
QLoRA ni mbinu inayokuruhusu kusawazisha muundo mkubwa wa lugha kwenye GPU moja ya watumiaji kwa kuhifadhi muundo uliogandishwa kwa biti 4 pekee kwa kila uzani.
Sikiliza mwongozo huuInaonyeshwa na AI · ~2 min
Katika ukurasa huudk 2 kusoma
Muhtasari
Ilifanya kubinafsisha miundo ya vigezo vya 65B iwezekane kwenye maunzi ambayo hapo awali yangeweza kushughulikia miundo sehemu ya ukubwa huo.
Dive ya kina
Kwa kawaida, kupanga vizuri muundo mkubwa kunamaanisha kupakia kila uzito kwa usahihi wa 16-bit na kusasisha zote, ambayo inahitaji kumbukumbu kubwa. QLoRA inachanganya mawazo mawili. Kwanza, hugandisha kielelezo kilichofunzwa awali na kuipunguza hadi biti 4, ikipunguza kumbukumbu takribani mara nne. Pili, hutumia LoRA: badala ya kusasisha matrices makubwa ya uzani, inadunga vitambaa vidogo vinavyoweza kufunzwa vya adapta ya kiwango cha chini kando yao, kwa hivyo ni vigezo milioni chache tu vinavyosasishwa. Msingi wa 4-bit hukaa sawa wakati gradients inapita kupitia adapta ndogo pekee. Ilianzishwa mwaka wa 2023 na Dettmers na wafanyakazi wenzake, QLoRA ilionyesha kuwa kurekebisha vyema muundo wa 65B kwenye GPU moja ya 48GB kunaweza kulingana na ubora wa urekebishaji kamili wa 16-bit.
Utekelezaji wa Ulimwengu Halisi
Kipindi cha kuanzia huboresha muundo wa 70B Llama kwenye GPU moja ya 48GB ili kuunda msaidizi wa usaidizi kwa mteja kwa sauti yake ya chapa bila kukodisha kundi la seva.
Mtafiti aliye na mtumiaji mmoja RTX 4090 hubadilisha muundo wazi kwa mkusanyiko wa data wa kujibu maswali ya kimatibabu mara moja.
Msanidi huunda adapta nyingi ndogo, zinazoweza kubadilishwa za LoRA kwa kazi tofauti, zote zinashiriki muundo wa msingi wa 4-bit uliopakiwa kwenye kumbukumbu.
Mpenda hobby husanikisha muundo kwenye kumbukumbu zake za gumzo la kibinafsi ili kuiga mtindo fulani wa uandishi kwa kutumia maunzi ya kiwango cha Colab bila malipo.
Mustakabali wa QLoRA na Urekebishaji Bora wa Biti 4
Urekebishaji mzuri wa 4-bit umekuwa mazoezi ya kawaida, na utafiti sasa unasukuma kuelekea usahihi wa chini zaidi, ikijumuisha uwasilishaji wa 2-bit na 1-bit (ternary). Mipango mipya ya uwekaji kiasi kama vile AWQ, GPTQ, na HQQ huboresha usahihi zaidi, huku mbinu kama vile QA-LoRA zinalenga kuweka muundo uliokadiriwa hata baada ya kuunganisha adapta. Miundo ya uzani huria inapokua, tarajia utumiaji unaowaruhusu wapenda burudani kuboresha miundo ya 70B-plus kwenye GPU moja ya michezo ya kubahatisha kuwa utaratibu, unaoweka mapendeleo ya kidemokrasia.
Kuiweka katika vitendo
Kwa nini ni muhimu
- Kasi na kiwango. Mitiririko ya kazi ya lugha inaweza kusonga kwa kasi zaidi bila kuacha uthabiti.
- Kufikia na kufikia. Inapanua ufikiaji katika lugha na mitindo ya mawasiliano.
- Maamuzi ya wazi zaidi. Timu zinaweza kutumia muda mwingi kufanya uamuzi huku otomatiki ikishughulikia marudio.
Jihadharini na
- Mambo ya ukweli yanaweza kuingiza ripoti kwa utulivu, mitiririko ya usaidizi, au matokeo ya utafiti.
- Usikivu wa haraka unaweza kuunda matokeo yasiyolingana katika maombi sawa.
- Data nyeti ya maandishi inaweza kufichuliwa ikiwa vidhibiti vya ufikiaji ni dhaifu.
Hatua zinazofuata
- Bainisha umbizo la towe, toni na viwango vya ubora kabla ya kusambaza.
- Majibu ya msingi na vyanzo vinavyoaminika wakati wowote usahihi ni muhimu.
- Weka ukaguzi wa ukaguzi wa kibinadamu kwa matokeo ya juu.
- Fuatilia mifumo ya kushindwa na fundisha tena vidokezo au mtiririko wa kazi mara kwa mara.
Endelea Kuchunguza
Jarida halali
Pata taarifa ya kila siku ya AI
Hadithi tatu za AI zilizothibitishwa kila asubuhi ya wiki, zimetengenezwa kwa Kiingereza rahisi. Bila malipo daima, hakuna matangazo.
Barua pepe moja kila siku ya wiki. Jiondoe kwa bonyeza moja. Hatutauza au kushiriki anwani yako.
Jijaribu mwenyewe
Take the QLoRA and 4-Bit Fine-Tuning quiz
Maoni ya haraka juu ya kila jibu, na cheti kinachoweza kushirikishwa na kitambulisho kinachoweza kuthibitishwa baada ya kupita kozi.
Changia elimu ya AI bila malipo. AI Understanding ni 501(c)(3) isiyo na faida — hakuna matangazo, hakuna kizuizi cha malipo, daima. Toa mchango
Maswali yanayoulizwa mara kwa mara
QLoRA na 4-Bit Fine-Tuning ni nini?
QLoRA ni mbinu inayokuruhusu kusawazisha muundo mkubwa wa lugha kwenye GPU moja ya watumiaji kwa kuhifadhi muundo uliogandishwa kwa biti 4 pekee kwa kila uzani. Ilifanya ubinafsishaji wa vielelezo vya 65B-parameta iwezekanavyo kwenye maunzi ambayo hapo awali yangeweza tu kushughulikia mifano sehemu ya ukubwa huo.
Je, ni wazo gani kuu la kuhifadhi kumbukumbu nyuma ya sehemu ya '4-bit' ya QLoRA?
QLoRA huhifadhi uzani uliogandishwa awali kwa biti 4 kwa kila thamani, hivyo kukata kumbukumbu takribani mara nne ikilinganishwa na biti-16.
Wakati wa urekebishaji mzuri wa QLoRA, ni vigezo gani husasishwa kwa asili ya gradient?
Mfano wa msingi umehifadhiwa; ni matrices ya adapta ya kiwango cha chini tu yaliyodungwa hupokea masasisho ya gradient, ambayo ni sehemu ndogo tu ya vigezo.
NF4 ni nini katika muktadha wa QLoRA?
NF4 (NormalFloat 4-bit) ni aina ya data iliyoundwa karibu na usambazaji wa kengele-curve ya uzani wa mtandao wa neva kwa usahihi bora kuliko int4 wazi.
Je, 'viboreshaji vya ukurasa' huwa na tatizo gani katika anwani ya QLoRA?
Paged optimizers use NVIDIA unified memory to page optimizer states between GPU and CPU memory as needed; the QLoRA paper says this helps manage memory spikes and reduce out-of-memory risk during long-sequence fine-tuning.
Je, uzani wa biti 4 hubadilishwa lini hadi usahihi wa juu wakati wa mafunzo?
During a matrix multiplication, quantized weights are dequantized on the fly to a higher-precision compute dtype (for example, BF16 or FP16 in QLoRA configurations); the temporary higher-precision values are not stored as a full base-model copy.
Endelea kujifunza
Miongozo inayohusiana
Miongozo zaidi imechaguliwa kwa mada hii