Mixup και CutMix Augmentation
Το Mixup και το CutMix είναι μέθοδοι αύξησης δεδομένων που δημιουργούν νέα παραδείγματα εκπαίδευσης αναμειγνύοντας δύο εικόνες και τις ετικέτες τους.
Επισκόπηση
Mixup linearly interpolates whole images and labels, while CutMix pastes a rectangular patch from one image onto another and mixes labels by patch area — both reduce overfitting and improve robustness.
Βαθιά κατάδυση
Ο Mixup (Zhang et al., 2017) σχηματίζει ένα νέο δείγμα ως x̃ = λ·x_a + (1−λ)·x_b με την ετικέτα ỹ αναμεμειγμένη από το ίδιο λ, όπου το λ λαμβάνεται από μια κατανομή Beta. Αυτό ενθαρρύνει το μοντέλο να συμπεριφέρεται γραμμικά μεταξύ των παραδειγμάτων, εξομαλύνοντας τα όρια απόφασης και βελτιώνοντας τη βαθμονόμηση. Το CutMix (Yun et al., 2019) κόβει μια ορθογώνια περιοχή από την εικόνα Β και την επικολλά στην εικόνα Α. τα βάρη της ετικέτας ορίζονται από την αναλογία των εικονοστοιχείων που συνεισφέρει κάθε εικόνα. Επειδή το CutMix διατηρεί τοπικά συνεκτικές περιοχές εικόνας (και όχι φανταστικά μείγματα), διατηρεί τη χρήσιμη χωρική δομή ενώ εξακολουθεί να αναγκάζει το μοντέλο να παρακολουθεί πολλά αντικείμενα και μέρη. Και οι δύο τεχνικές λειτουργούν ως ισχυροί ρυθμιστές, αυξάνουν την ακρίβεια σε δείκτες αναφοράς κλίμακας ImageNet και βελτιώνουν ιδιαίτερα την ανθεκτικότητα σε διαφθορές και αντίθετες εισροές.
Τεχνική διορατικότητα
Και οι δύο μέθοδοι τροποποιούν τον στόχο απώλειας, όχι μόνο την εισαγωγή. Η ετικέτα γίνεται ένας μαλακός, μεικτός στόχος, επομένως η απώλεια διασταυρούμενης εντροπίας είναι ένας σταθμισμένος συνδυασμός δύο κατηγοριών — ουσιαστικά μια μορφή εξομάλυνσης της ετικέτας που συνδέεται με την αναλογία ανάμειξης εικονοστοιχείων. Στο CutMix, το λ ισούται με το κλάσμα των αμετάβλητων εικονοστοιχείων, που υπολογίζεται από την περιοχή του πλαισίου αποκοπής διαιρεμένη με τη συνολική επιφάνεια εικόνας, η οποία διατηρεί την αναλογία της ετικέτας συνεπή με το πόσο από κάθε εικόνα είναι ορατή.
Στρατηγικός αντίκτυπος
Κόστος και προϋπολογισμός
Οι αποφάσεις για την αρχιτεκτονική καθορίζουν την απόδοση και το λειτουργικό κόστος για χρόνια.
Σαφέστερες αποφάσεις
Η τεχνική εκπαίδευση βοηθά τις ομάδες να επιλέξουν τη σωστή στοίβα, όχι μόνο τη νεότερη.
Ελεγχος ποιότητας
Οι καλύτερες επιλογές μηχανικής μειώνουν τα περιστατικά αξιοπιστίας στην παραγωγή.
The Future of Mixup and CutMix Augmentation
Η επαύξηση με βάση το μείγμα είναι πλέον στάνταρ σε ισχυρές συνταγές ταξινόμησης εικόνων και στηρίζει τους σύγχρονους αγωγούς εκπαίδευσης για μετασχηματιστές όρασης, οι οποίοι συχνά χρειάζονται βαριά τακτοποίηση. Η έρευνα συνεχίζεται για παραλλαγές που έχουν επίγνωση της σημασίας (π.χ. τοποθέτηση περικοπών σε ενημερωτικές περιοχές), μίξη σε επίπεδο διακριτικών για μετασχηματιστές και επεκτάσεις σε δεδομένα ήχου, κειμένου και 3D. Αναμένετε ότι οι στρατηγικές ανάμειξης θα παραμείνουν ένας μοχλός χαμηλού κόστους για την ενίσχυση της ακρίβειας, της βαθμονόμησης και της ευρωστίας, καθώς οι αρχιτεκτονικές γίνονται πιο απαιτητικές για δεδομένα.
Υλοποίηση σε πραγματικό κόσμο
Εκπαίδευση ταξινομητών ImageNet με το CutMix για αύξηση της ακρίβειας top-1 και βελτίωση της τοπικής προσαρμογής των αντικειμένων.
Εφαρμογή Mixup για τη βελτίωση της βαθμονόμησης του μοντέλου, έτσι ώστε οι προβλεπόμενες εμπιστευτικότητα να ταιριάζουν καλύτερα με την πραγματική ακρίβεια.
Μετασχηματιστές όρασης σε μεγάλο βαθμό τακτοποίησης (π.χ. DeiT) με συνδυασμένο Mixup και CutMix για εκπαίδευση σε περιορισμένα δεδομένα.
Αυξάνοντας την ευρωστία των αλλοιώσεων της εικόνας και των εισροών εκτός διανομής σε κρίσιμα για την ασφάλεια συστήματα όρασης.
Κίνδυνοι & προστατευτικά κιγκλιδώματα
Η βελτιστοποίηση ενός σημείου αναφοράς μπορεί να κρύψει ευρύτερες αδυναμίες του συστήματος.
Το κόστος υποδομής και συντήρησης συχνά υποτιμάται.
Τα κενά ασφάλειας και παρατηρητικότητας μπορούν να αυξηθούν καθώς τα συστήματα γίνονται πιο πολύπλοκα.
Οδικός Χάρτης Εφαρμογής
Καθορίστε τους στόχους καθυστέρησης, ποιότητας και κόστους πριν από την εφαρμογή.
Σημείο αναφοράς υπό ρεαλιστικές συνθήκες φορτίου και δεδομένων.
Παρακολούθηση οργάνου για σφάλματα, μετατόπιση και επιπτώσεις από τον χρήστη.
Προετοιμάστε διαδρομές επαναφοράς και απόκρισης συμβάντος πριν την κλιμάκωση.
Συνεχίστε την εξερεύνηση
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Mixup and CutMix Augmentation quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Επόμενος οδηγός
Αύξηση χρόνου δοκιμής
Συχνές ερωτήσεις
What is Mixup and CutMix Augmentation?
Το Mixup και το CutMix είναι μέθοδοι αύξησης δεδομένων που δημιουργούν νέα παραδείγματα εκπαίδευσης αναμειγνύοντας δύο εικόνες και τις ετικέτες τους. Το Mixup παρεμβάλλει γραμμικά ολόκληρες εικόνες και ετικέτες, ενώ το CutMix επικολλά ένα ορθογώνιο έμπλαστρο από τη μια εικόνα στην άλλη και αναμιγνύει τις ετικέτες ανά περιοχή ενημερωμένης έκδοσης — και τα δύο μειώνουν την υπερβολική προσαρμογή και βελτιώνουν την ευρωστία.
Πώς δημιουργεί το Mixup ένα νέο παράδειγμα εκπαίδευσης;
Η μίξη σχηματίζει x̃ = λx_a + (1−λ)x_b και αναμιγνύει τις ετικέτες με το ίδιο λ που προέρχεται από μια κατανομή Beta.
Ποια είναι η βασική διαφορά μεταξύ CutMix και Mixup;
Το CutMix αντιγράφει μια ορθογώνια περιοχή από μια εικόνα σε μια άλλη, διατηρώντας τοπικά συνεκτικό περιεχόμενο αντί να δημιουργεί δύο εικόνες μαζί.
Στο CutMix, πώς προσδιορίζεται το βάρος ανάμειξης (λάμδα) για τις ετικέτες;
Η αναλογία ετικετών στο CutMix ορίζεται από την περιοχή του επικολλημένου πλαισίου σε σχέση με ολόκληρη την εικόνα, διατηρώντας τις ετικέτες συνεπείς με τα ορατά pixel.
Εκτός από την εικόνα εισόδου, τι άλλο τροποποιούν το Mixup και το CutMix;
Και οι δύο μέθοδοι αναμειγνύουν τις ετικέτες, δημιουργώντας μαλακούς στόχους που λειτουργούν σαν μια μορφή εξομάλυνσης ετικετών που εξαρτάται από τα δεδομένα.
Ποια κατανομή χρησιμοποιείται συνήθως για τη δειγματοληψία του συντελεστή ανάμειξης λάμδα;
Το Mixup και το CutMix συνήθως αντλούν λ από μια διανομή Beta, η οποία ελέγχει πόσο ισχυρά αναμιγνύονται τα δύο παραδείγματα.