What is Learning Rate? Definition | AI Understanding

Ορισμός

Μια υπερπαράμετρος εκπαίδευσης που ελέγχει πόσες παράμετροι αλλάζουν κάθε βήμα ενημέρωσης.

Σχετικοί όροι

Ένα διάνυσμα που δείχνει πόσο πρέπει να αλλάξει κάθε παράμετρος για να μειωθεί η απώλεια.

Υπερπαράμετρος

Μια τιμή διαμόρφωσης που έχει οριστεί πριν από την εκπαίδευση, όπως ο ρυθμός εκμάθησης, το μέγεθος παρτίδας ή το βάθος.

Γενίκευση

Πόσο καλά αποδίδει ένα μοντέλο σε νέα, αόρατα δεδομένα εκτός του σετ εκπαίδευσης.

Παράμετρος Αποτελεσματική Μικροσυντονισμός (PEFT)

Μέθοδοι που προσαρμόζουν μοντέλα εκπαιδεύοντας ένα μικρό υποσύνολο πρόσθετων παραμέτρων.

Αναζήτηση δέσμης

Ένας αλγόριθμος αποκωδικοποίησης που διατηρεί τις κορυφαίες πολλές υποψήφιες ακολουθίες σε κάθε βήμα για την εύρεση εξόδων υψηλότερης πιθανότητας.

Λειτουργία απώλειας

Ένας μαθηματικός στόχος που ποσοτικοποιεί το σφάλμα πρόβλεψης κατά τη διάρκεια της εκπαίδευσης.

Μάθετε περισσότερα στους δωρεάν οδηγούς μας

Deep Learning Reinforcement Learning Machine Learning Basics Supervised Learning

Δείτε επίσης

Large Language Model (LLM)LoRA (Low-Rank Adaptation)Latency Label Smoothing Machine Learning (ML)Knowledge Graph Memory (Agent Memory)Knowledge Distillation

Περιηγηθείτε στο πλήρες Γλωσσάρι AI Εξερευνήστε όλους τους δωρεάν οδηγούς AI