Akopọ
LoRA jẹ ki o ṣe akanṣe awoṣe ti a ti kọkọ tẹlẹ omiran nipasẹ ikẹkọ nikan ṣeto awọn iwọn tuntun dipo gbogbo awọn ọkẹ àìmọye. O jẹ ẹtan ti o jẹ ki iṣatunṣe itanran ni ifarada lori GPU kan ati pe o jẹ ki awoṣe ipilẹ kan ṣiṣẹ awọn dosinni ti awọn iṣẹ ṣiṣe amọja.
LoRA ati Iṣatunṣe Iṣe-daradara jẹ apakan ti akopọ ede-AI ti a lo lati ka, ṣe ipilẹṣẹ, ṣe lẹtọ, ati yi ọrọ ati ọrọ pada ni iwọn.
Jin Dive
Atunse ti o dara ni kikun ṣe imudojuiwọn gbogbo iwuwo ni awoṣe kan, eyiti fun nẹtiwọọki-ọpọ-bilionu-paramita nilo iranti nla ati ibi ipamọ fun iṣẹ-ṣiṣe tuntun kọọkan. LoRA (Aṣamubadọgba ipo-kekere) gba ipa ọna ijafafa: o di awọn iwuwo atilẹba patapata ati fi sii kekere, awọn matrices 'adapter' ikẹkọ lẹgbẹẹ wọn. Tẹtẹ bọtini ni pe iyipada ti o nilo lati ṣe amọja awoṣe jẹ ipo-kekere - o le gba nipasẹ awọn matrices awọ-ara meji ti ọja rẹ jẹ apẹrẹ kanna bi matrix iwuwo nla, ṣugbọn pẹlu awọn nọmba ti o kere pupọ lati kọ ẹkọ. Nigbagbogbo o ṣe ikẹkọ labẹ 1% ti awọn paramita. Abajade jẹ faili ohun ti nmu badọgba kekere (nigbakan awọn megabyte diẹ) o le paarọ sinu ati jade. QLoRA lọ siwaju nipasẹ pipọ ipilẹ tio tutunini si 4-bit, jẹ ki eniyan dara-tune awọn awoṣe nla lori ohun elo olumulo.
Imọ-imọ-ẹrọ
Fun kan matrix iwuwo W, LoRA duro awọn oniwe-imudojuiwọn bi awọn ọja ti meji-kekere ipo matrices, B igba A, ibi ti A ati B ni kekere kan akojọpọ apa miran r (ipo, igba 8 tabi 16). Lakoko ikẹkọ A ati B nikan ni a kọ; W duro aotoju. Ni itọkasi abajade ohun ti nmu badọgba ti wa ni afikun si iṣelọpọ Layer atilẹba, ati ifosiwewe igbelowọn (alpha) n ṣakoso ipa rẹ. Nitori B igba A le ti wa ni dapọ pada sinu W lẹhin ikẹkọ, LoRA afikun odo afikun lairi ni kete ti dapọ sinu awọn ti ran awọn awoṣe.
Mastering LoRA ati Parameter-daradara Tuning
LoRA jẹ ki o ṣe akanṣe awoṣe ti a ti kọkọ tẹlẹ omiran nipasẹ ikẹkọ nikan ṣeto awọn iwọn tuntun dipo gbogbo awọn ọkẹ àìmọye. O jẹ ẹtan ti o jẹ ki iṣatunṣe itanran ni ifarada lori GPU kan ati pe o jẹ ki awoṣe ipilẹ kan ṣiṣẹ awọn dosinni ti awọn iṣẹ ṣiṣe amọja. LoRA ati Iṣatunṣe Iṣe-daradara jẹ apakan ti akopọ ede-AI ti a lo lati ka, ṣe ipilẹṣẹ, ṣe lẹtọ, ati yi ọrọ ati ọrọ pada ni iwọn. Lati kọ oye ti o jinlẹ, tọju LoRA ati Tuning-Parameter-Efficient bi awoṣe iṣẹ, kii ṣe ẹya ẹyọkan: ṣalaye awọn abajade ti o fẹ, ṣe alaye awọn arosọ, ati lọtọ ohun ti eto le ṣe ni igbẹkẹle lati ohun ti o tun nilo idajọ amoye.
Ni iṣe, awọn ẹgbẹ ti o lagbara ni lilo LoRA ati Parameter-Efficient Tuning design designs, igbapada, ati atunyẹwo awọn losiwajulosehin bi eto ibaraẹnisọrọ iṣọpọ kan. Wọn ṣe akọsilẹ awọn ibeere aṣeyọri ti o fojuhan, idanwo lodi si data ojulowo ati ṣiṣan iṣẹ, ati atunbere ti o da lori awọn ilana ikuna ti a ṣakiyesi dipo awọn bori ala-akoko kan. Eyi ni ibiti oye imọ-jinlẹ yipada si agbara ti o tọ kọja ọja, eto imulo, ati awọn iṣẹ ṣiṣe.
Ṣiṣan iṣẹ ede le gbe ni iyara laisi irubọ aitasera. Ni akoko kanna, awọn otitọ hallucinated le tẹ awọn ijabọ laiparuwo, awọn ṣiṣan atilẹyin, tabi awọn abajade iwadii. Ọna resilient julọ julọ ni lati darapọ iyara idanwo pẹlu ibawi ijọba: ṣiṣe awọn awakọ awakọ, mu ẹri mu, ṣe atẹjade awọn iwe ipinnu, ati imudojuiwọn awọn aabo nigbagbogbo bi ihuwasi awoṣe, awọn ireti olumulo, ati awọn ibeere ilana ti dagbasoke.
Ipa Ilana
Ṣiṣan iṣẹ ede le gbe ni iyara laisi irubọ aitasera.
Ṣiṣan iṣẹ ede le gbe ni iyara laisi irubọ aitasera. Ni awọn imuṣiṣẹ ti o ni agbara giga, eyi ni a tumọ si awọn ofin iṣiṣẹ wiwọn, awọn aala nini, ati awọn ilana atunyẹwo loorekoore ki awọn ẹgbẹ le ṣe iwọn igbẹkẹle dipo iwọn aibikita.
O faagun iraye si kọja awọn ede ati awọn aza ibaraẹnisọrọ.
O faagun iraye si kọja awọn ede ati awọn aza ibaraẹnisọrọ. Ni awọn imuṣiṣẹ ti o ni agbara giga, eyi ni a tumọ si awọn ofin iṣiṣẹ wiwọn, awọn aala nini, ati awọn ilana atunyẹwo loorekoore ki awọn ẹgbẹ le ṣe iwọn igbẹkẹle dipo iwọn aibikita.
Awọn ẹgbẹ le lo akoko diẹ sii lori idajọ lakoko ti adaṣe n kapa atunwi.
Awọn ẹgbẹ le lo akoko diẹ sii lori idajọ lakoko ti adaṣe n kapa atunwi. Ni awọn imuṣiṣẹ ti o ni agbara giga, eyi ni a tumọ si awọn ofin iṣiṣẹ wiwọn, awọn aala nini, ati awọn ilana atunyẹwo loorekoore ki awọn ẹgbẹ le ṣe iwọn igbẹkẹle dipo iwọn aibikita.
Real-World imuse
Atunse awoṣe to dara bi Llama lori awọn akọsilẹ ile-iwosan ile-iwosan nipa lilo GPU kan dipo iṣupọ kikun
Gbigbe ohun ti nmu badọgba LoRA 10 MB ti o yi iwiregbe gbogboogbo pada si oluranlọwọ iwe-ofin laisi pinpin gbogbo awoṣe
Lilo QLoRA lati ṣe atunṣe awoṣe nla kan lori kaadi awọn eya olumulo nipa tito awọn iwọn mimọ ti o tutu si 4-bit
Alejo awoṣe ipilẹ kan ati gbigbona oriṣiriṣi awọn oluyipada LoRA fun alabara lati sin ọpọlọpọ awọn oluranlọwọ amọja ni olowo poku
Awọn Ilana imuse
LoRA ati Iṣatunṣe Ṣiṣe-daradara ni iṣe
Titun-tunse awoṣe ṣiṣi bi Llama lori awọn akọsilẹ ile-iwosan ile-iwosan nipa lilo GPU ẹyọkan dipo iṣupọ kikun.
Atunse ti o dara ni awoṣe ṣiṣi bi Llama lori awọn akọsilẹ ile-iwosan ti ile-iwosan nipa lilo GPU kan dipo awọn ẹgbẹ iṣupọ ni kikun nigbagbogbo gba awọn abajade ti o dara julọ nigbati wọn ṣalaye awọn ilodi didara ni iwaju, tọju ọna imudara eniyan fun awọn ọran eti, ati tọpa awọn anfani iṣelọpọ mejeeji ati awọn idiyele aṣiṣe ni akoko pupọ.
LoRA ati Iṣatunṣe Ṣiṣe-daradara ni iṣe
Gbigbe ohun ti nmu badọgba LoRA 10 MB ti o yi iwiregbe gbogboogbo pada si oluranlọwọ iwe-ofin laisi pinpin gbogbo awoṣe.
Gbigbe ohun ti nmu badọgba LoRA 10 MB ti o yi iwiregbe gbogboogbo sinu oluranlọwọ iwe-ofin laisi pinpin gbogbo awoṣe Awọn ẹgbẹ nigbagbogbo gba awọn abajade to dara julọ nigbati wọn ṣalaye awọn ilodi didara ni iwaju, tọju ọna igbega eniyan fun awọn ọran eti, ati tọpa mejeeji awọn anfani iṣelọpọ ati awọn idiyele aṣiṣe ni akoko pupọ.
LoRA ati Iṣatunṣe Ṣiṣe-daradara ni iṣe
Lilo QLoRA lati tune awoṣe nla kan lori kaadi awọn eya olumulo nipa tito awọn iwọn mimọ ti o tutunini si 4-bit.
Lilo QLoRA lati ṣe atunṣe awoṣe nla kan lori kaadi awọn eya aworan olumulo nipa tito iwọn awọn iwuwo mimọ ti o tutu si Awọn ẹgbẹ 4-bit nigbagbogbo gba awọn abajade to dara julọ nigbati wọn ṣalaye awọn ilodi didara ni iwaju, tọju ọna imudara eniyan fun awọn ọran eti, ati tọpa mejeeji awọn anfani iṣelọpọ ati awọn idiyele aṣiṣe lori akoko.
LoRA ati Iṣatunṣe Ṣiṣe-daradara ni iṣe
Alejo awoṣe ipilẹ kan ati gbigbona oriṣiriṣi awọn oluyipada LoRA fun alabara lati sin ọpọlọpọ awọn oluranlọwọ amọja ni olowo poku.
Alejo awoṣe ipilẹ kan ati fifiparọ gbona oriṣiriṣi awọn oluyipada LoRA fun alabara lati ṣe iranṣẹ ọpọlọpọ awọn oluranlọwọ amọja ni olowo poku Awọn ẹgbẹ nigbagbogbo gba awọn abajade to dara julọ nigbati wọn ṣalaye awọn ẹnu-ọna didara ni iwaju, tọju ọna igbega eniyan fun awọn ọran eti, ati tọpa mejeeji awọn anfani iṣelọpọ ati awọn idiyele aṣiṣe ni akoko pupọ.
Awọn ewu & Awọn ọna iṣọ
Awọn otitọ ti a sọ di mimọ le tẹ awọn ijabọ sii ni idakẹjẹ, awọn ṣiṣan atilẹyin, tabi awọn abajade iwadii.
Ifamọ kiakia le ṣẹda awọn abajade aisedede kọja awọn ibeere ti o jọra.
Awọn data ọrọ ifarabalẹ le farahan ti awọn idari wiwọle ko lagbara.
Ilana Ilana imuse
Ṣetumo ọna kika iṣẹjade, ohun orin, ati awọn iṣedede didara ṣaaju ṣiṣejade.
Ṣetumo ọna kika iṣẹjade, ohun orin, ati awọn iṣedede didara ṣaaju ṣiṣejade. Ṣe itọju igbesẹ kọọkan bi ẹnu-ọna ẹri: ti awọn ibeere ko ba ni ibamu, daduro yiyọ kuro, pa aafo naa, ati lẹhinna faagun lilo.
Awọn idahun ilẹ pẹlu awọn orisun ti o gbẹkẹle nigbakugba ti deede ba ṣe pataki.
Awọn idahun ilẹ pẹlu awọn orisun ti o gbẹkẹle nigbakugba ti deede ba ṣe pataki. Ṣe itọju igbesẹ kọọkan bi ẹnu-ọna ẹri: ti awọn ibeere ko ba ni ibamu, daduro yiyọ kuro, pa aafo naa, ati lẹhinna faagun lilo.
Jeki aaye ayẹwo atunyẹwo eniyan fun awọn abajade ti o ga julọ.
Jeki aaye ayẹwo atunyẹwo eniyan fun awọn abajade ti o ga julọ. Ṣe itọju igbesẹ kọọkan bi ẹnu-ọna ẹri: ti awọn ibeere ko ba ni ibamu, daduro yiyọ kuro, pa aafo naa, ati lẹhinna faagun lilo.
Tọpinpin awọn ilana ikuna ati tunṣe awọn itọsi tabi ṣiṣan iṣẹ nigbagbogbo.
Tọpinpin awọn ilana ikuna ati tunṣe awọn itọsi tabi ṣiṣan iṣẹ nigbagbogbo. Ṣe itọju igbesẹ kọọkan bi ẹnu-ọna ẹri: ti awọn ibeere ko ba ni ibamu, daduro yiyọ kuro, pa aafo naa, ati lẹhinna faagun lilo.