Termen de glosar AI

Ce este Reglare fină eficientă în funcție de parametri (PEFT)?

Definiție

Metode care adaptează modelele prin antrenarea unui mic subset de parametri adăugați.

Răsfoiți întregul glosar AIExplorați toate ghidurile AI gratuite

Termeni înrudiți

Reglaj finFormarea continuă cu privire la datele specifice domeniului pentru a adapta un model pre-antrenat la o anumită sarcină.LoRA (adaptare la rang scăzut)O metodă de reglare fină eficientă din punct de vedere al parametrilor care adaugă matrice adaptoare de rang scăzut.Post-antrenamentPași de antrenament aplicați după antrenament preliminar, cum ar fi reglarea instrucțiunilor, optimizarea preferințelor și reglarea siguranței.Reglajul instrucțiunilorAjustarea fină a unui model de perechi instrucțiune-răspuns pentru a îmbunătăți urmărirea sarcinilor.Rata de învățareUn hiperparametru de antrenament care controlează cât de mult parametrii modifică fiecare pas de actualizare.DPO (Optimizare directă a preferințelor)O metodă de antrenament care ajustează modelele direct pe perechile de preferințe, fără a avea nevoie de un model de recompensă separat.

Aflați mai multe în ghidurile noastre gratuite

Fine-TuningHard Parameter Sharing in Multi-Task NetworksGumbel-Softmax and ReparameterizationRejection Sampling Fine-Tuning

Vezi și

ParameterPerplexityOverfittingPipelineOpen-Source ModelPrecisionOCR (Optical Character Recognition)Pretraining