Nchịkọta
Ntụle nlele gradient (nke a na-akpọkwa nlele ọrụ ọrụ) bụ aghụghọ na-echekwa ebe nchekwa na-atụfu ọtụtụ mmemme n'etiti n'oge ngafe na-aga n'ihu ma na-atụgharị ha na ofufe n'oge mgbasa ozi. Ọ na-enye gị ohere ịzụ netwọk miri emi, nke buru ibu site na ịzụ ahịa mgbakwunye maka iji ebe nchekwa dị ala.
Nyochaa gradient bụ ngọngọ ụlọ ọrụ nka nke na-emetụta ịdịmma ụdị, ọnụ ahịa akụrụngwa, nkwụsị, na ntụkwasị obi n'ọ̀tụ̀tụ̀.
Ime miri emi
Ọzụzụ netwọkụ akwara ozi na-echekwa ihe mmemme oyi akwa ọ bụla n'oge ngafe n'ihi na mgbasa ozi chọrọ ka ha gbakọọ gradients. Maka ụdị miri emi, mmemme ndị a na-achịkwa ebe nchekwa. Ntụle nlele gradient na-echekwa naanị n'ọkwa dị obere nke 'ebe nlele' wee tụfuo ndị ọzọ. Mgbe backprop rutere mpaghara nke ewepụrụ ọrụ ya, ọ na-emegharị nhazigharị n'ihu maka naanị akụkụ ahụ iji megharia ihe ọ chọrọ, wee gaa n'ihu. N'iji ebe nlele etinyere n'ogo square-root-of-N ọ bụla, ebe nchekwa maka ọrụ na-adaba n'usoro N iji tụọ square-root-of-N, ebe ịgbakọ na-ebili naanị ihe dị ka otu ngafe na-aga n'ihu (ihe dịka 20-30% ji nwayọ nwayọ). Nke a na-eme ka o kwe omume ịkwado nnukwu batch nha ma ọ bụ ntụgharị dị omimi n'otu GPU.
Nghọta nka nka
Usoro a na-eji oge-na-echefu echefu ahia. Ịchekwa mmemme niile na-adị ngwa ngwa mana ebe nchekwa-agụụ; recomputing ha dị ọnụ ala na oge accelerators ikwu na-eri nke na-agba ọsọ nke ebe nchekwa. Frameworks dị ka PyTorch (torch.utils.checkpoint) kechie modul ka e wee chekwaa ihe nrụpụta ya mana a na-agụgharị ihe ntinye ya n'oge azụ. Ịhọrọ ebe nleba anya ihe dị mkpa: ọbụna oghere nke akụkụ sqrt(N) na-ebelata mkpokọta ebe nchekwa ma na-agbakwunye naanị otu ngafe n'ihu nke gbakọọ mkpokọta.
Ntụle nyocha nke gradient
Ntụle nlele gradient (nke a na-akpọkwa nlele ọrụ ọrụ) bụ aghụghọ na-echekwa ebe nchekwa na-atụfu ọtụtụ mmemme n'etiti n'oge ngafe na-aga n'ihu ma na-atụgharị ha na ofufe n'oge mgbasa ozi. Ọ na-enye gị ohere ịzụ netwọk miri emi, nke buru ibu site na ịzụ ahịa mgbakwunye maka iji ebe nchekwa dị ala. Nyochaa gradient bụ ngọngọ ụlọ ọrụ nka nke na-emetụta ịdịmma ụdị, ọnụ ahịa akụrụngwa, nkwụsị, na ntụkwasị obi n'ọ̀tụ̀tụ̀. Iji wulite nghọta miri emi, na-emeso Gradient Checkpointing dị ka ihe nlereanya na-arụ ọrụ, ọ bụghị otu njirimara: kọwaa nsonaazụ achọrọ, dokwuo anya echiche, ma kewapụ ihe sistemụ ahụ nwere ike ime nke ọma na ihe ka chọrọ mkpebi ndị ọkachamara.
Na omume, otu ndị siri ike na-eji Gradient Checkpointing na-ebuli ụlọ, data, na nhọrọ akụrụngwa megide ntụkwasị obi na ọnụ ahịa. Ha na-edepụta njirisi ịga nke ọma nke ọma, nwalee megide data ziri ezi yana usoro ọrụ, yana na-atụgharị dabere na usoro ọdịda ahụrụ karịa karịa mmeri otu oge. Nke a bụ ebe nghọta usoro ihe atụ na-atụgharị ghọọ ike na-adịgide adịgide n'ofe ngwaahịa, amụma na arụmọrụ.
Mkpebi ihe owuwu ụlọ na-akwalite arụmọrụ yana ọnụ ahịa ọrụ ruo ọtụtụ afọ. N'otu oge ahụ, ịkwalite otu akara ngosi nwere ike zoo adịghị ike sistemụ sara mbara. Ụzọ kachasị na-agbanwe agbanwe bụ ijikọ ọsọ nnwale na ịdọ aka ná ntị ọchịchị: ndị na-anya ụgbọ elu, ijide ihe akaebe, bipụta ndekọ mkpebi, na na-aga n'ihu na-emelite nchekwa dị ka omume nlereanya, atụmanya ndị ọrụ, na ihe iwu chọrọ.
Mmetụta atụmatụ
Mkpebi ihe owuwu ụlọ na-akwalite arụmọrụ yana ọnụ ahịa ọrụ ruo ọtụtụ afọ.
Mkpebi ihe owuwu ụlọ na-akwalite arụmọrụ yana ọnụ ahịa ọrụ ruo ọtụtụ afọ. N'ịkwanye ọkwa dị elu, a na-atụgharị nke a ka ọ bụrụ iwu arụ ọrụ enwere ike ịtụnye, oke nwe, na emume ntụlegharị ugboro ugboro ka ndị otu wee nwee ike ịbawanye ntụkwasị obi kama iwelite enweghị mgbagha.
Nkà mmụta nka na-enyere ndị otu egwuregwu aka ịhọrọ nchịkọta ziri ezi, ọ bụghị naanị nke kachasị ọhụrụ.
Nkà mmụta nka na-enyere ndị otu egwuregwu aka ịhọrọ nchịkọta ziri ezi, ọ bụghị naanị nke kachasị ọhụrụ. N'ịkwanye ọkwa dị elu, a na-atụgharị nke a ka ọ bụrụ iwu arụ ọrụ enwere ike ịtụnye, oke nwe, na emume ntụlegharị ugboro ugboro ka ndị otu wee nwee ike ịbawanye ntụkwasị obi kama iwelite enweghị mgbagha.
Nhọrọ injinia ka mma na-ebelata ihe omume ntụkwasị obi na mmepụta.
Nhọrọ injinia ka mma na-ebelata ihe omume ntụkwasị obi na mmepụta. N'ịkwanye ọkwa dị elu, a na-atụgharị nke a ka ọ bụrụ iwu arụ ọrụ enwere ike ịtụnye, oke nwe, na emume ntụlegharị ugboro ugboro ka ndị otu wee nwee ike ịbawanye ntụkwasị obi kama iwelite enweghị mgbagha.
Mmejuputa n'ezie n'ụwa
Ịzụ ihe ngbanwe dị omimi nke nwere nnukwu batch na otu GPU site na ịtụfu na ịgbakọ ọrụ oyi akwa.
Ụdị ọhụụ na-emezigharị nke ọma na onyonyo dị elu ebe maapụ ịgbalite ga-ejupụta ebe nchekwa GPU.
Ịmakụ ndị na-agbanwe ihu na-enyere gradient_checkpointing=Ezigbo dabara ụdị ijeri paramita n'oge a na-emegharị mma.
Ijikọ nlele na FSDP ka edobere ma paramita na mmemme dị ntakịrị, na-enye ọzụzụ nke ụdị asụsụ buru ibu.
Usoro mmejuputa
Nleba anya gradient na omume
Ịzụ ihe ngbanwe dị omimi nke nwere nnukwu batch na otu GPU site na ịtụfu na ịgbakọ ọrụ oyi akwa.
Ọzụzụ ihe ntụgharị dị omimi nke nwere nnukwu batch na otu GPU site na ịtụfu na ịgbakọ ọrụ oyi akwa Otu egwuregwu na-enwetakarị nsonaazụ kacha mma mgbe ha na-akọwapụta ọnụ ụzọ dị mma n'ihu, debe ụzọ mmụba mmadụ maka ikpe ọnụ, ma soro ma uru nrụpụta yana ụgwọ njehie na oge.
Nleba anya gradient na omume
Ụdị ọhụụ na-emezigharị nke ọma na onyonyo dị elu ebe maapụ ịgbalite ga-ejupụta ebe nchekwa GPU.
Ụdị ọhụụ na-emezigharị nke ọma na onyogho dị elu ebe maapụ ọrụ ga-ejupụta ndị otu ebe nchekwa GPU na-enwetakarị nsonaazụ ka mma mgbe ha na-akọwapụta ọnụ ụzọ dị mma n'ihu, na-eme ka ụzọ mmadụ dịkwuo elu maka ikpe ikpe, ma soro ma uru mmepụta na ụgwọ njehie na oge.
Nleba anya gradient na omume
Ịmakụ ndị na-agbanwe ihu na-enyere gradient_checkpointing=Ezigbo dabara ụdị ijeri paramita n'oge a na-emegharị mma.
Ịmakụ ndị na-agbanwe ihu ihu na-enyere gradient_checkpointing=Ezigbo dabara n'ụdị ijeri-parameter n'oge nhazi nke ọma Otu egwuregwu na-enwetakarị nsonaazụ kacha mma mgbe ha kọwapụtara ọnụ ụzọ dị mma n'ihu, debe ụzọ mmụba mmadụ maka ikpe ọnụ, wee soro ma uru nrụpụta yana ọnụ ahịa njehie ka oge na-aga.
Nleba anya gradient na omume
Ijikọ nlele na FSDP ka edobere ma paramita na mmemme dị ntakịrị, na-enye ọzụzụ nke ụdị asụsụ buru ibu.
Ijikọta nlele na FSDP ka a na-edobe ma paramita na mmemme dị ntakịrị, na-enye ọzụzụ nke ụdị asụsụ dị ukwuu Otu dị iche iche na-enwetakwa nsonaazụ kacha mma mgbe ha na-akọwapụta ọnụ ụzọ dị mma n'ihu, debe ụzọ mmụba mmadụ maka ikpe ọnụ, ma soro ma uru nrụpụta yana ụgwọ njehie n'ime oge.
Ihe ize ndụ & okporo ụzọ nche
Ịkwalite otu akara ngosi nwere ike zoo adịghị ike sistemụ sara mbara.
A na-eledakarị ihe akụrụngwa na ụgwọ ọrụ anya.
Ọdịiche nchekwa na nleba anya nwere ike itolite ka sistemu na-adịwanye mgbagwoju anya.
Map mmejuputa
Kọwaa latency, ịdịmma na ebumnuche ọnụ ahịa tupu mmejuputa ya.
Kọwaa latency, ịdịmma na ebumnuche ọnụ ahịa tupu mmejuputa ya. Mesoo nzọụkwụ ọ bụla dị ka ọnụ ụzọ akaebe: ọ bụrụ na emezughị ụkpụrụ, kwụsịtụ mbugharị, mechie oghere ahụ, naanị wee gbasaa ojiji.
Benchmark n'okpuru ibu dị adị na ọnọdụ data.
Benchmark n'okpuru ibu dị adị na ọnọdụ data. Mesoo nzọụkwụ ọ bụla dị ka ọnụ ụzọ akaebe: ọ bụrụ na emezughị ụkpụrụ, kwụsịtụ mbugharị, mechie oghere ahụ, naanị wee gbasaa ojiji.
Nleba anya akụrụngwa maka mperi, ịkpafu na mmetụta onye ọrụ.
Nleba anya akụrụngwa maka mperi, ịkpafu na mmetụta onye ọrụ. Mesoo nzọụkwụ ọ bụla dị ka ọnụ ụzọ akaebe: ọ bụrụ na emezughị ụkpụrụ, kwụsịtụ mbugharị, mechie oghere ahụ, naanị wee gbasaa ojiji.
Kwadebe ụzọ nzaghachi azụghachi azụ na ihe omume tupu ịchachaa.
Kwadebe ụzọ nzaghachi azụghachi azụ na ihe omume tupu ịchachaa. Mesoo nzọụkwụ ọ bụla dị ka ọnụ ụzọ akaebe: ọ bụrụ na emezughị ụkpụrụ, kwụsịtụ mbugharị, mechie oghere ahụ, naanị wee gbasaa ojiji.