Όρος Γλωσσάρι AI

Τι είναι Παράμετρος Αποτελεσματική Μικροσυντονισμός (PEFT);

Ορισμός

Μέθοδοι που προσαρμόζουν μοντέλα εκπαιδεύοντας ένα μικρό υποσύνολο πρόσθετων παραμέτρων.

Περιηγηθείτε στο πλήρες Γλωσσάρι AIΕξερευνήστε όλους τους δωρεάν οδηγούς AI

Σχετικοί όροι

ΒελτιστοποίησηΣυνεχής εκπαίδευση σε δεδομένα συγκεκριμένου τομέα για την προσαρμογή ενός προεκπαιδευμένου μοντέλου σε μια συγκεκριμένη εργασία.LoRA (Προσαρμογή χαμηλής βαθμίδας)Μια μέθοδος μικρορύθμισης αποδοτικής παραμέτρου που προσθέτει πίνακες προσαρμογέων χαμηλής κατάταξης.Μετά την προπόνησηΒήματα εκπαίδευσης που εφαρμόζονται μετά την προπόνηση, όπως συντονισμός οδηγιών, βελτιστοποίηση προτιμήσεων και συντονισμός ασφαλείας.Συντονισμός οδηγιώνΒελτιστοποίηση ενός μοντέλου σε ζεύγη εντολών-απόκρισης για τη βελτίωση της παρακολούθησης εργασιών.Ποσοστό μάθησηςΜια υπερπαράμετρος εκπαίδευσης που ελέγχει πόσες παράμετροι αλλάζουν κάθε βήμα ενημέρωσης.DPO (Άμεση βελτιστοποίηση προτιμήσεων)Μια μέθοδος εκπαίδευσης που προσαρμόζει τα μοντέλα απευθείας σε ζεύγη προτιμήσεων χωρίς να χρειάζεται ξεχωριστό μοντέλο ανταμοιβής.

Μάθετε περισσότερα στους δωρεάν οδηγούς μας

Fine-TuningHard Parameter Sharing in Multi-Task NetworksGumbel-Softmax and ReparameterizationRejection Sampling Fine-Tuning

Δείτε επίσης

ParameterPerplexityOverfittingPipelineOpen-Source ModelPrecisionOCR (Optical Character Recognition)Pretraining