Termen de glosar AI

Ce este Reglare fină eficientă în funcție de parametri (PEFT)?

Definiție

Metode care adaptează modelele prin antrenarea unui mic subset de parametri adăugați.

Termeni înrudiți

Reglaj fin
Formarea continuă cu privire la datele specifice domeniului pentru a adapta un model pre-antrenat la o anumită sarcină.
LoRA (adaptare la rang scăzut)
O metodă de reglare fină eficientă din punct de vedere al parametrilor care adaugă matrice adaptoare de rang scăzut.
Post-antrenament
Pași de antrenament aplicați după antrenament preliminar, cum ar fi reglarea instrucțiunilor, optimizarea preferințelor și reglarea siguranței.
Reglajul instrucțiunilor
Ajustarea fină a unui model de perechi instrucțiune-răspuns pentru a îmbunătăți urmărirea sarcinilor.
Rata de învățare
Un hiperparametru de antrenament care controlează cât de mult parametrii modifică fiecare pas de actualizare.
DPO (Optimizare directă a preferințelor)
O metodă de antrenament care ajustează modelele direct pe perechile de preferințe, fără a avea nevoie de un model de recompensă separat.

Aflați mai multe în ghidurile noastre gratuite

Fine-TuningHard Parameter Sharing in Multi-Task NetworksGumbel-Softmax and ReparameterizationRejection Sampling Fine-Tuning

Vezi și

ParameterPerplexityOverfittingPipelineOpen-Source ModelPrecisionOCR (Optical Character Recognition)Pretraining
Răsfoiți întregul glosar AIExplorați toate ghidurile AI gratuite