AI Ordlista Term

Vad är Parametereffektiv finjustering (PEFT)?

Definition

Metoder som anpassar modeller genom att träna en liten delmängd av tillagda parametrar.

Relaterade termer

Finjustering
Fortsatt utbildning om domänspecifik data för att anpassa en förtränad modell till en specifik uppgift.
LoRA (lågrankad anpassning)
En parametereffektiv finjusteringsmetod som lägger till lågrankade adaptermatriser.
Efter träning
Utbildningssteg som tillämpas efter förträning, såsom instruktionsinställning, preferensoptimering och säkerhetsinställning.
Instruktionsjustering
Finjustera en modell på instruktion-svar-par för att förbättra uppgiftsföljden.
Inlärningshastighet
En träningshyperparameter som styr hur mycket parametrar ändrar varje uppdateringssteg.
DPO (Direct Preference Optimization)
En träningsmetod som finjusterar modeller direkt på preferenspar utan att behöva en separat belöningsmodell.

Läs mer i våra kostnadsfria guider

Fine-TuningHard Parameter Sharing in Multi-Task NetworksGumbel-Softmax and ReparameterizationRejection Sampling Fine-Tuning

See also

ParameterPerplexityOverfittingPipelineOpen-Source ModelPrecisionOCR (Optical Character Recognition)Pretraining
Bläddra i hela AI-ordlistanUtforska alla gratis AI-guider