AI Gilosari Igba

Kí ni Iṣatunṣe-Ṣiṣe-Tuning Fine daradara (PEFT)?

Itumọ

Awọn ọna ti o ṣe adaṣe awọn awoṣe nipasẹ ikẹkọ ipin kekere ti awọn aye ti a ṣafikun.

Ṣawakiri ni kikun AI GilosariṢawari gbogbo awọn itọsọna AI ọfẹ

Awọn ofin ti o jọmọ

Itanran-tuningIlọsiwaju ikẹkọ lori data-ašẹ kan pato lati ṣe atunṣe awoṣe ti a ti kọ tẹlẹ si iṣẹ-ṣiṣe kan pato.LoRA (Imudara ipo-Kekere)Ọna atunṣe-daradara paramita ti o ṣafikun awọn matiri oluyipada ipo-kekere.Lẹhin ikẹkọAwọn igbesẹ ikẹkọ ti a lo lẹhin ikẹkọ iṣaaju, gẹgẹbi yiyi itọnisọna, iṣapeye ayanfẹ, ati iṣatunṣe ailewu.Ilana TuningṢiṣe atunṣe awoṣe daradara lori awọn orisii idahun-itọnisọna lati mu ilọsiwaju iṣẹ-ṣiṣe ti o tẹle.Oṣuwọn ẹkọHyperparameter ikẹkọ ti n ṣakoso iye awọn paramita ṣe iyipada igbesẹ imudojuiwọn kọọkan.DPO (Imudara Iyanfẹ Taara)Ọna ikẹkọ ti o ṣe atunṣe awọn awoṣe taara taara lori awọn orisii ayanfẹ laisi nilo awoṣe ere lọtọ.

Kọ ẹkọ diẹ sii ninu awọn itọsọna ọfẹ wa

Fine-TuningHard Parameter Sharing in Multi-Task NetworksGumbel-Softmax and ReparameterizationRejection Sampling Fine-Tuning

Wo tun

ParameterPerplexityOverfittingPipelineOpen-Source ModelPrecisionOCR (Optical Character Recognition)Pretraining