Όρος Γλωσσάρι AI

Τι είναι Κατάβαση κλίσης;

Ορισμός

Μια μέθοδος βελτιστοποίησης που ενημερώνει τις παραμέτρους προς την κατεύθυνση που μειώνει τα σφάλματα.

Περιηγηθείτε στο πλήρες Γλωσσάρι AIΕξερευνήστε όλους τους δωρεάν οδηγούς AI

Σχετικοί όροι

DPO (Άμεση βελτιστοποίηση προτιμήσεων)Μια μέθοδος εκπαίδευσης που προσαρμόζει τα μοντέλα απευθείας σε ζεύγη προτιμήσεων χωρίς να χρειάζεται ξεχωριστό μοντέλο ανταμοιβής.ΚλίσηΈνα διάνυσμα που δείχνει πόσο πρέπει να αλλάξει κάθε παράμετρος για να μειωθεί η απώλεια.Ο πίσω πολλαπλασιασμόςΟ βασικός αλγόριθμος εκπαίδευσης που ενημερώνει τα βάρη των μοντέλων διαδίδοντας τα σφάλματα πρόβλεψης προς τα πίσω μέσω του δικτύου.ΜεροληψίαΈνα σταθερό μοτίβο σφάλματος ή αδικίας στα δεδομένα ή τη συμπεριφορά του μοντέλου.Εξομάλυνση ετικετώνΜια μέθοδος τακτοποίησης που μαλακώνει τις σκληρές ετικέτες για να βελτιώσει τη γενίκευση.Ποσοστό μάθησηςΜια υπερπαράμετρος εκπαίδευσης που ελέγχει πόσες παράμετροι αλλάζουν κάθε βήμα ενημέρωσης.

Μάθετε περισσότερα στους δωρεάν οδηγούς μας

Gradient AccumulationStochastic Gradient Descent with MomentumNesterov Accelerated GradientVanishing and Exploding Gradients

Δείτε επίσης

Ground TruthGenerative AIGuardrailsGeneralizationHallucinationGAN (Generative Adversarial Network)Human-in-the-LoopFunction Calling