ΕπόμενοΕπόμενος οδηγός
Διαδικτυακή και εκτός σύνδεσης δυνατότητα προβολής Skew
Τεχνικά
Τεχνικός ΟΔΗΓΟΣ
Online και Hard Negative Mining
Η εξόρυξη σκληρών αρνητικών επιλέγει τα πιο κατατοπιστικά, δύσκολα στη διάκριση παραδείγματα για εκπαίδευση αντί να σπαταλά κόπο σε εύκολα που το μοντέλο έχει ήδη κάνει σωστά.
Ακούστε αυτόν τον οδηγόαφήγηση με AI · ~2 min
Σε αυτήν τη σελίδα2 λεπτά ανάγνωση
Επισκόπηση
Είναι το κόλπο που κάνει τη μετρική εκμάθηση και την ανίχνευση αντικειμένων να συγκλίνουν γρήγορα και με ακρίβεια.
Βαθιά κατάδυση
Κατά την προπόνηση με τριπλέτες ή απώλειες αντίθεσης, τα περισσότερα τυχαία αρνητικά δείγματα βρίσκονται ήδη μακριά από την άγκυρα, επομένως παράγουν μηδενική απώλεια και χωρίς κλίση, στάβλους προπόνησης. Η αρνητική εξόρυξη το διορθώνει επιλέγοντας σκληρά αρνητικά: παραδείγματα που είναι λάθος κοντά στην άγκυρα. Στην εξόρυξη εκτός σύνδεσης, σαρώνετε περιοδικά το σύνολο δεδομένων για να τα βρείτε, κάτι που είναι αργό και μπαγιάτικο. Η διαδικτυακή εξόρυξη τα υπολογίζει αμέσως σε κάθε μίνι παρτίδα: μετά από ένα πέρασμα προς τα εμπρός, εξετάζετε όλες τις αποστάσεις ανά ζεύγη της παρτίδας και επιλέγετε τους πιο σκληρούς παραβάτες. Το FaceNet εισήγαγε το ημι-σκληρό mining, επιλέγοντας αρνητικά πιο μακριά από τα θετικά, αλλά ακόμα μέσα στο περιθώριο, αποφεύγοντας την αστάθεια που μπορεί να προκαλέσουν τα απόλυτα πιο σκληρά αρνητικά νωρίς στην προπόνηση.
Υλοποίηση σε πραγματικό κόσμο
Εκπαίδευση αναγνώρισης προσώπου: Το FaceNet χρησιμοποιεί ημι-σκληρή διαδικτυακή εξόρυξη για να μάθει ενσωματώσεις που διαχωρίζουν άτομα που μοιάζουν.
Ανίχνευση αντικειμένων: Οι SSD και παρόμοιοι ανιχνευτές εφαρμόζουν σκληρή αρνητική εξόρυξη για να εξισορροπήσουν την πλημμύρα των κουτιών εύκολου φόντου με κουτιά σπάνιων αντικειμένων.
Ανάκτηση πυκνού περάσματος: τα συστήματα αναζήτησης και RAG εξορύσσουν σκληρά αρνητικά έγγραφα που φαίνονται σχετικά αλλά δεν είναι, ακονίζοντας το retriever.
Συστήματα σύστασης: μοντελοποιεί αντικείμενα στα οποία δεν έκανε κλικ ένας χρήστης, αλλά μοιάζουν με αντικείμενα στα οποία έγινε κλικ, διδάσκοντας πιο λεπτές διακρίσεις στη γεύση.
Το μέλλον της διαδικτυακής και σκληρής αρνητικής εξόρυξης
Η αρχή, εκπαίδευση σε ό,τι είναι δύσκολο, οδηγεί τώρα την αντιθετική αυτοεποπτευόμενη μάθηση, όπου μεγάλες ομάδες αρνητικών παρτίδων (και τράπεζες μνήμης όπως η MoCo) παρέχουν δύσκολες συγκρίσεις χωρίς ετικέτες. Οι ερευνητές διευκρινίζουν πόσο σκληρό πρέπει να είναι ένα αρνητικό, καθώς τα πολύ σκληρά αρνητικά συχνά αποδεικνύονται εσφαλμένα ή σχεδόν διπλά θετικά που αλλοιώνουν την εκπαίδευση. Αναμένετε πιο έξυπνη εξόρυξη με επίγνωση της αβεβαιότητας και συνθετικά σκληρά αρνητικά που δημιουργούνται από το ίδιο το μοντέλο, καθώς και στενότερη ενσωμάτωση με συστήματα ανάκτησης που εξορύσσουν σκληρά αρνητικά από πραγματικά ερωτήματα χρηστών.
Κάνοντάς το στην πράξη
Γιατί έχει σημασία
- Κόστος και προϋπολογισμός. Οι αποφάσεις για την αρχιτεκτονική καθορίζουν την απόδοση και το λειτουργικό κόστος για χρόνια.
- Σαφέστερες αποφάσεις. Η τεχνική εκπαίδευση βοηθά τις ομάδες να επιλέξουν τη σωστή στοίβα, όχι μόνο τη νεότερη.
- Ελεγχος ποιότητας. Οι καλύτερες επιλογές μηχανικής μειώνουν τα περιστατικά αξιοπιστίας στην παραγωγή.
Προσέξτε
- Η βελτιστοποίηση ενός σημείου αναφοράς μπορεί να κρύψει ευρύτερες αδυναμίες του συστήματος.
- Το κόστος υποδομής και συντήρησης συχνά υποτιμάται.
- Τα κενά ασφάλειας και παρατηρητικότητας μπορούν να αυξηθούν καθώς τα συστήματα γίνονται πιο πολύπλοκα.
Επόμενα βήματα
- Καθορίστε τους στόχους καθυστέρησης, ποιότητας και κόστους πριν από την εφαρμογή.
- Σημείο αναφοράς υπό ρεαλιστικές συνθήκες φορτίου και δεδομένων.
- Παρακολούθηση οργάνου για σφάλματα, μετατόπιση και επιπτώσεις από τον χρήστη.
- Προετοιμάστε διαδρομές επαναφοράς και απόκρισης συμβάντος πριν την κλιμάκωση.
Συνεχίστε την εξερεύνηση
Δωρεάν ενημερωτικό δελτίο
Λάβετε την καθημερινή ενημέρωση AI
Τρία επαληθευμένα νέα AI κάθε πρωί της εβδομάδας, γραμμένα σε απλή αγγλική. Δωρεάν για πάντα, χωρίς διαφημίσεις.
Ένα email κάθε εργάσιμη ημέρα. Κατάργηση συνδρομής με ένα κλικ. Δεν πουλάμε ή μοιραζόμαστε ποτέ τη διεύθυνσή σας.
Δοκιμάστε τον εαυτό σας
Take the Online and Hard Negative Mining quiz
Άμεση ανάδραση σε κάθε απάντηση, και πιστοποιητικό με επαληθεύσιμο ID μόλις περάσετε το μάθημα.
Υποστηρίξτε τη δωρεάν εκπαίδευση AI. AI Understanding είναι μια μη κερδοσκοπική οργάνωση 501(c)(3) — χωρίς διαφημίσεις, χωρίς τοίχο πληρωμής, ποτέ. Κάντε μια δωρεά
Συχνές ερωτήσεις
Τι είναι το Online και το Hard Negative Mining;
Η εξόρυξη σκληρών αρνητικών επιλέγει τα πιο κατατοπιστικά, δύσκολα στη διάκριση παραδείγματα για εκπαίδευση αντί να σπαταλά κόπο σε εύκολα που το μοντέλο έχει ήδη κάνει σωστά. Είναι το κόλπο που κάνει τη μετρική εκμάθηση και την ανίχνευση αντικειμένων να συγκλίνουν γρήγορα και με ακρίβεια.
Γιατί τα περισσότερα τυχαία δειγματοληπτικά αρνητικά παρέχουν μικρό σήμα προπόνησης στην απώλεια τριπλής;
Τα εύκολα αρνητικά κάθονται πολύ πέρα από το περιθώριο, ικανοποιούν ήδη την απώλεια και ουσιαστικά δεν έχουν κλίση, οπότε η προπόνηση σταματά.
Τι διακρίνει το online mining από το offline mining;
Η διαδικτυακή εξόρυξη υπολογίζει τις αποστάσεις ανά ζεύγη μέσα στην τρέχουσα παρτίδα κάθε βήμα, ενώ η εξόρυξη εκτός σύνδεσης σαρώνει περιοδικά ολόκληρο το σύνολο δεδομένων και μπορεί να μείνει μπαγιάτικο.
Τι είναι ένα «ημίσκληρο» αρνητικό όπως ορίζεται στο FaceNet;
Τα ημίσκληρα αρνητικά είναι πιο μακριά από την άγκυρα από τα θετικά, αλλά πέφτουν μέσα στο περιθώριο, δίνοντας χρήσιμες, σταθερές κλίσεις χωρίς την αστάθεια των απολύτως σκληρότερων περιπτώσεων.
Στο batch-hard mining, ποιο αρνητικό επιλέγεται για κάθε άγκυρα;
Η εξόρυξη κατά παρτίδες επιλέγει τις πιο δύσκολες περιπτώσεις: για κάθε άγκυρα παίρνει το πιο μακρινό θετικό και το πλησιέστερο (το πιο συγκεχυμένο) αρνητικό στην παρτίδα.
Γιατί το μεγαλύτερο μέγεθος παρτίδας τείνει να βελτιώνει τα εξορυσσόμενα αποτελέσματα εκμάθησης μετρήσεων;
Μια μεγαλύτερη παρτίδα αποδίδει έναν μεγαλύτερο πίνακα αποστάσεων ανά ζεύγη, επομένως υπάρχουν περισσότερα υποψήφια αρνητικά για να εξορύξουμε το πιο δύσκολο από κάθε βήμα.
Συνέχισε να μαθαίνεις
Σχετικοί οδηγοί
Επιλέχθηκαν περισσότεροι οδηγοί για αυτό το θέμα