ΕπόμενοΕπόμενος οδηγός
AI σε σεισμό έγκαιρης προειδοποίησης
Εφαρμογές
ΟΔΗΓΟΣ Βασικών Αρχών
Early stopping uses a validation metric to decide when to stop a training run.
Ακούστε αυτόν τον οδηγόαφήγηση με AI · ~2 min
A patience rule can tolerate temporary plateaus or noise, while the best checkpoint is retained; its effect on generalization depends on the metric, data, and training setup.
Training loss can continue to decrease while validation performance levels off or worsens, which may indicate overfitting. An early-stopping rule monitors a selected validation metric and stops after a configured number of checks without a qualifying improvement. The patience setting allows temporary plateaus; min_delta can specify the minimum change that counts as improvement. Implementations differ in when they check and whether they automatically restore the best weights, so verify the callback behavior and save or restore the desired checkpoint. Validation curves often—but not invariably—show an initial improvement followed by a plateau or decline. Early stopping can act as regularization by limiting optimization time, but it does not guarantee lower test error; validation data should be kept separate from final test evaluation.
Επιστροφή κλήσης Keras EarlyStopping με υπομονή=10 παρακολούθηση val_loss and restore_best_weights=True σε έναν ταξινομητή εικόνας
Διακοπή ενός δέντρου με ενίσχυση κλίσης (XGBoost early_stopping_rounds) όταν η επικύρωση AUC είναι οροπέδιο για να αποφευχθεί η προσθήκη άχρηστων δέντρων
Διακοπή της τελειοποίησης ενός μοντέλου συναισθήματος BERT μόλις σταματήσει να αυξάνεται η επικύρωση F1, εξοικονομώντας ώρες GPU
Ένας ανταγωνιστής Kaggle που χρησιμοποιεί ένα πάσο επικύρωσης για να σταματήσει νωρίς και να επιλέξει το σημείο ελέγχου με τη χαμηλότερη απώλεια καταγραφής
Η πρόωρη διακοπή παραμένει προεπιλογή σχεδόν σε κάθε αγωγό εκπαίδευσης, αλλά ο ρόλος της μεταβάλλεται. Με πολύ μεγάλα μοντέλα που έχουν εκπαιδευτεί για μία μόνο εποχή σε τεράστια σώματα, η κλασική διακοπή που βασίζεται στην εποχή αντικαθίσταται από την παρακολούθηση των προϋπολογισμών συμβολαίων και των χρονοδιαγραμμάτων ρυθμού εκμάθησης. Αναμένετε αυστηρότερη ενοποίηση με την αυτοματοποιημένη αναζήτηση υπερπαραμέτρων, τα κριτήρια πολλαπλών μετρήσεων και τους χρονοπρογραμματιστές που γνωρίζουν τον προϋπολογισμό που αποφασίζουν πότε η συνεχής εκπαίδευση δεν δικαιολογεί πλέον το κόστος υπολογισμού και άνθρακα.
Δωρεάν ενημερωτικό δελτίο
Τρία επαληθευμένα νέα AI κάθε πρωί της εβδομάδας, γραμμένα σε απλή αγγλική. Δωρεάν για πάντα, χωρίς διαφημίσεις.
Ένα email κάθε εργάσιμη ημέρα. Κατάργηση συνδρομής με ένα κλικ. Δεν πουλάμε ή μοιραζόμαστε ποτέ τη διεύθυνσή σας.
Δοκιμάστε τον εαυτό σας
Άμεση ανάδραση σε κάθε απάντηση, και πιστοποιητικό με επαληθεύσιμο ID μόλις περάσετε το μάθημα.
Υποστηρίξτε τη δωρεάν εκπαίδευση AI. AI Understanding είναι μια μη κερδοσκοπική οργάνωση 501(c)(3) — χωρίς διαφημίσεις, χωρίς τοίχο πληρωμής, ποτέ. Κάντε μια δωρεά
Early stopping uses a validation metric to decide when to stop a training run. A patience rule can tolerate temporary plateaus or noise, while the best checkpoint is retained; its effect on generalization depends on the metric, data, and training setup.
Το πρόωρο σταμάτημα παρακολουθεί μια μετρική επικύρωσης που δεν έχει διάρκεια, καθώς η απώλεια προπόνησης συνεχίζει να μειώνεται ακόμα και όταν το μοντέλο υπερπροσαρμόζεται.
Η υπομονή είναι ο αριθμός των εποχών που επιτρέπονται χωρίς βελτίωση πριν σταματήσει η προπόνηση, εξομαλύνοντας τις θορυβώδεις καμπύλες επικύρωσης.
Επαναφέρετε το σημείο ελέγχου από την εποχή με την καλύτερη βαθμολογία επικύρωσης, όχι την τελευταία εποχή, η οποία μπορεί να έχει ήδη υπερπροσαρμοσθεί.
Stopping based on validation behavior can limit continued fitting, but it is not identical to adding an L2 penalty and does not guarantee improved test performance.
Το min_delta ορίζει πόσο μεγάλη πρέπει να είναι μια βελτίωση για να επαναφέρετε τον μετρητή υπομονής, αποτρέποντας τις μικροσκοπικές διακυμάνσεις να μοιάζουν με πραγματική πρόοδο.
Συνέχισε να μαθαίνεις
Επιλέχθηκαν περισσότεροι οδηγοί για αυτό το θέμα
ΕπόμενοΕπόμενος οδηγός
AI σε σεισμό έγκαιρης προειδοποίησης
Εφαρμογές