LoRA ati Paramita-Ṣiṣe Tuning
LoRA jẹ ki o ṣe akanṣe awoṣe ti a ti kọkọ tẹlẹ omiran nipasẹ ikẹkọ nikan ṣeto awọn iwọn tuntun dipo gbogbo awọn ọkẹ àìmọye.
Akopọ
O jẹ ẹtan ti o jẹ ki ṣiṣatunṣe daradara ni ifarada lori GPU kan ati jẹ ki awoṣe ipilẹ kan sin ọpọlọpọ awọn iṣẹ pataki.
Jin Dive
Atunse ti o dara ni kikun ṣe imudojuiwọn gbogbo iwuwo ni awoṣe kan, eyiti fun nẹtiwọọki-ọpọ-bilionu-paramita nilo iranti nla ati ibi ipamọ fun iṣẹ-ṣiṣe tuntun kọọkan. LoRA (Aṣamubadọgba ipo-kekere) gba ipa ọna ijafafa: o di awọn iwuwo atilẹba patapata ati fi sii kekere, awọn matrices 'adapter' ikẹkọ lẹgbẹẹ wọn. Tẹtẹ bọtini ni pe iyipada ti o nilo lati ṣe amọja awoṣe jẹ ipo-kekere - o le gba nipasẹ awọn matrices awọ-ara meji ti ọja rẹ jẹ apẹrẹ kanna bi matrix iwuwo nla, ṣugbọn pẹlu awọn nọmba ti o kere pupọ lati kọ ẹkọ. Nigbagbogbo o ṣe ikẹkọ labẹ 1% ti awọn paramita. Abajade jẹ faili ohun ti nmu badọgba kekere (nigbakan awọn megabyte diẹ) o le paarọ sinu ati jade. QLoRA lọ siwaju nipasẹ pipọ ipilẹ tio tutunini si 4-bit, jẹ ki eniyan dara-tune awọn awoṣe nla lori ohun elo olumulo.
Imọ-imọ-ẹrọ
Fun kan matrix iwuwo W, LoRA duro awọn oniwe-imudojuiwọn bi awọn ọja ti meji-kekere ipo matrices, B igba A, ibi ti A ati B ni kekere kan akojọpọ apa miran r (ipo, igba 8 tabi 16). Lakoko ikẹkọ A ati B nikan ni a kọ; W duro aotoju. Ni itọkasi abajade ohun ti nmu badọgba ti wa ni afikun si iṣelọpọ Layer atilẹba, ati ifosiwewe igbelowọn (alpha) n ṣakoso ipa rẹ. Nitori B igba A le ti wa ni dapọ pada sinu W lẹhin ikẹkọ, LoRA afikun odo afikun lairi ni kete ti dapọ sinu awọn ti ran awọn awoṣe.
Ipa Ilana
Iyara ati iwọn
Ṣiṣan iṣẹ ede le gbe ni iyara laisi irubọ aitasera.
Wiwọle ati arọwọto
O faagun iraye si kọja awọn ede ati awọn aza ibaraẹnisọrọ.
Awọn ipinnu diẹ sii
Awọn ẹgbẹ le lo akoko diẹ sii lori idajọ lakoko ti adaṣe n kapa atunwi.
Ojo iwaju ti LoRA ati Iṣatunṣe Ṣiṣe-daradara paramita
Titunṣe-daradara paramita ti di ọna aiyipada ọna awọn ajo ṣe adaṣe awọn awoṣe ṣiṣi, ati pe iyẹn yoo jinle. Reti awọn ilolupo ohun ti nmu badọgba nibiti awọn ọgọọgọrun ti LoRAs ti gbona-swapped tabi paapaa kq lori oke ipilẹ kan ti a pin, pẹlu awọn eto ipa-ọna ti o mu ohun ti nmu badọgba ti o tọ fun ibeere. Iṣatunṣe titobi ara QLoRA n tẹsiwaju titari iwọn awọn awoṣe ti awọn aṣenọju le ṣe akanṣe ni ile. Iwadi tẹsiwaju lori ipilẹṣẹ to dara julọ, yiyan ipo agbara, ati ṣiṣe iranṣẹ ọpọlọpọ awọn alamuuṣẹ ni ẹẹkan daradara - ṣiṣe awoṣe ipilẹ aala kan ni ipilẹ fun ailopin ọpọlọpọ olowo poku, awọn iyatọ pataki.
Real-World imuse
Atunse awoṣe to dara bi Llama lori awọn akọsilẹ ile-iwosan ile-iwosan nipa lilo GPU kan dipo iṣupọ kikun
Gbigbe ohun ti nmu badọgba LoRA 10 MB ti o yi iwiregbe gbogboogbo pada si oluranlọwọ iwe-ofin laisi pinpin gbogbo awoṣe
Lilo QLoRA lati ṣe atunṣe awoṣe nla kan lori kaadi awọn eya olumulo nipa tito awọn iwọn mimọ ti o tutu si 4-bit
Alejo awoṣe ipilẹ kan ati gbigbona oriṣiriṣi awọn oluyipada LoRA fun alabara lati sin ọpọlọpọ awọn oluranlọwọ amọja ni olowo poku
Awọn ewu & Awọn ọna iṣọ
Awọn otitọ ti a sọ di mimọ le tẹ awọn ijabọ sii ni idakẹjẹ, awọn ṣiṣan atilẹyin, tabi awọn abajade iwadii.
Ifamọ kiakia le ṣẹda awọn abajade aisedede kọja awọn ibeere ti o jọra.
Awọn data ọrọ ifarabalẹ le farahan ti awọn idari wiwọle ko lagbara.
Ilana Ilana imuse
Ṣetumo ọna kika iṣẹjade, ohun orin, ati awọn iṣedede didara ṣaaju ṣiṣejade.
Awọn idahun ilẹ pẹlu awọn orisun ti o gbẹkẹle nigbakugba ti deede ba ṣe pataki.
Jeki aaye ayẹwo atunyẹwo eniyan fun awọn abajade ti o ga julọ.
Tọpinpin awọn ilana ikuna ati tunṣe awọn itọsi tabi ṣiṣan iṣẹ nigbagbogbo.
Tesiwaju Ṣiṣawari
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the LoRA and Parameter-Efficient Tuning quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Itọsọna atẹle
Ilana Tuning
Awọn ibeere ti a beere nigbagbogbo
Kini LoRA ati Parameter-Efficient Tuning?
LoRA jẹ ki o ṣe akanṣe awoṣe ti a ti kọkọ tẹlẹ omiran nipasẹ ikẹkọ nikan ṣeto awọn iwọn tuntun dipo gbogbo awọn ọkẹ àìmọye. O jẹ ẹtan ti o jẹ ki iṣatunṣe itanran ni ifarada lori GPU kan ati pe o jẹ ki awoṣe ipilẹ kan ṣiṣẹ awọn dosinni ti awọn iṣẹ ṣiṣe amọja.
Kini imọran mojuto lẹhin iṣatunṣe itanran LoRA?
LoRA jẹ ki awọn iwuwo ti a ti kọ tẹlẹ di didi ati kọ ẹkọ awọn matiri kekere ipo kekere ti a ṣafikun lẹgbẹẹ wọn, ikẹkọ ida kekere kan ti awọn paramita.
Kini idi ti LoRA ṣe dinku idiyele ti iṣatunṣe itanran?
Nitoripe awọn matiri ti nmu badọgba kekere nikan jẹ ikẹkọ, iranti ati awọn ibeere ibi ipamọ silẹ ni idinku ni akawe pẹlu imudojuiwọn gbogbo awọn ọkẹ àìmọye ti awọn iwuwo.
Kini ipo 'r' ni iṣakoso ohun ti nmu badọgba LoRA?
Awọn ipo r ni awọn kekere akojọpọ apa miran pín nipa matrices A o si B; ti o ga r yoo fun ohun ti nmu badọgba diẹ agbara sugbon siwaju sii sile lati irin.
Bawo ni QLoRA ṣe faagun ọna ipilẹ LoRA?
QLoRA tọju awọn iwuwo ipilẹ tio tutunini ni konge 4-bit, gige iranti gige ni pataki nitorinaa awọn awoṣe ti o tobi pupọ le jẹ aifwy daradara lori GPU olumulo kan.
Kini idi ti ohun ti nmu badọgba LoRA ti a dapọ ṣe ṣafikun ko si airi airotẹlẹ afikun?
Awọn imudojuiwọn ohun ti nmu badọgba B igba A ni o ni awọn kanna apẹrẹ bi awọn atilẹba àdánù, ki o le ti wa ni ti ṣe pọ taara sinu W, nto kuro ni ran awọn awoṣe iwọn kanna ati iyara.