Vision Transformers
Τα Vision Transformers (ViTs) εφαρμόζουν την αρχιτεκτονική του μετασχηματιστή που τροφοδοτεί το ChatGPT στις εικόνες, αντιμετωπίζοντας μια εικόνα ως μια ακολουθία patches αντί για ένα πλέγμα pixel.
Επισκόπηση
They proved that you do not need convolutions to achieve state-of-the-art image recognition.
Βαθιά κατάδυση
Για χρόνια, τα συνελικτικά νευρωνικά δίκτυα (CNN) κυριαρχούσαν στην όραση του υπολογιστή σαρώνοντας μικρά φίλτρα σε μια εικόνα. Η δημοσίευση του 2020 «An Image Is Worth 16x16 Words» από Google το αμφισβήτησε τεμαχίζοντας μια εικόνα σε σταθερά μπαλώματα, συνήθως 16x16 pixel, ισοπεδώνοντας το καθένα σε ένα διάνυσμα και τροφοδοτώντας την ακολουθία που προκύπτει σε έναν τυπικό μετασχηματιστή. Κάθε ενημερωμένη έκδοση κώδικα γίνεται ένα «κουπόνι», όπως μια λέξη σε μια πρόταση. Στη συνέχεια, το μοντέλο χρησιμοποιεί αυτοπροσοχή, ώστε κάθε ενημέρωση κώδικα να μπορεί να σχετίζεται άμεσα με κάθε άλλη ενημέρωση κώδικα, καταγράφοντας σχέσεις μεγάλης εμβέλειας που ένα μικρό συνελικτικό φίλτρο δεν μπορεί να δει σε ένα βήμα. Η σύλληψη: Τα ViT είναι πεινασμένα για δεδομένα επειδή δεν έχουν τις ενσωματωμένες υποθέσεις των CNN. Εκπαιδευμένοι σε τεράστια σύνολα δεδομένων όπως το JFT-300M, ταίριαξαν ή ξεπέρασαν τα καλύτερα CNN, αναδιαμορφώνοντας τη σύγχρονη έρευνα όρασης.
Τεχνική διορατικότητα
Ένα ViT χωρίζει μια εικόνα σε μη επικαλυπτόμενες ενημερώσεις κώδικα, προβάλλει γραμμικά το καθένα σε μια ενσωμάτωση και προσθέτει κωδικοποιήσεις θέσης, ώστε το μοντέλο να γνωρίζει πού βρίσκεται κάθε ενημερωμένη έκδοση κώδικα στην αρχική εικόνα. Προστίθεται ένα ειδικό «κουπόνι τάξης» που μπορεί να μαθευτεί. Η τελική του αναπαράσταση οδηγεί την ταξινόμηση. Τα στοιβαγμένα επίπεδα αυτο-προσοχής επιτρέπουν σε κάθε patch να ζυγίζει πληροφορίες από όλες τις άλλες, δίνοντας ένα παγκόσμιο δεκτικό πεδίο από το πρώτο επίπεδο. Επειδή η προσοχή κλιμακώνεται τετραγωνικά με τον αριθμό των επιδιορθώσεων, οι εικόνες υψηλής ανάλυσης γίνονται ακριβές, γι' αυτό το μέγεθος του κώδικα και οι αποτελεσματικές παραλλαγές προσοχής έχουν σημασία.
Στρατηγικός αντίκτυπος
Ταχύτητα και κλίμακα
Το Visual AI μπορεί να αυτοματοποιήσει εργασίες επιθεώρησης, ανίχνευσης και επισήμανσης σε κλίμακα.
Δημιουργήστε επιλογές
Οι δημιουργικές ομάδες μπορούν να δημιουργήσουν πρωτότυπες ιδέες γρηγορότερα με λιγότερες μη αυτόματες αναθεωρήσεις.
Ομάδα και ροή εργασίας
Οι λειτουργίες μπορούν να χρησιμοποιούν σήματα εικόνας και βίντεο που προηγουμένως ήταν δύσκολο να επεξεργαστούν.
The Future of Vision Transformers
Τα ViTs και τα υβρίδια μετασχηματιστών CNN τροφοδοτούν πλέον κορυφαία συστήματα όρασης και η αρχιτεκτονική βασίζεται σε πολυτροπικά μοντέλα που συνδυάζουν εικόνες με κείμενο, όπως το CLIP και οι σύγχρονοι βοηθοί γλώσσας όρασης. Αναμένετε να συνεχίσετε να εργάζεστε για να κάνετε την προσοχή φθηνότερη για υψηλής ανάλυσης και βίντεο, καθώς και αυτο-εποπτευόμενη προεκπαίδευση (όπως η μοντελοποίηση με καλυμμένη εικόνα) που μειώνει την τεράστια όρεξη για δεδομένα με ετικέτα. Καθώς ο υπολογισμός μεγαλώνει, η γραμμή μεταξύ του «μοντέλου γλώσσας» και του «μοντέλου όρασης» συνεχίζει να θολώνει, με τους μετασχηματιστές να χρησιμεύουν ως κοινός κορμός σε όλες τις διαδικασίες και όχι ως ξεχωριστά εξειδικευμένα σχέδια.
Υλοποίηση σε πραγματικό κόσμο
Τα συστήματα ταξινόμησης εικόνων και κατάταξης αναζήτησης του Google που υιοθέτησαν ραχοκοκαλιές μετασχηματιστών μετά το ViT αποδείχθηκαν ανταγωνιστικά με τα CNN
CLIP και άλλα μοντέλα κειμένου εικόνας που χρησιμοποιούν ViT για την κωδικοποίηση εικόνων, ώστε οι φωτογραφίες και οι λεζάντες να μπορούν να αντιστοιχιστούν σε έναν κοινόχρηστο χώρο
Έρευνα ιατρικής απεικόνισης που χρησιμοποιεί ViTs για να εντοπίσει μοτίβα σε ολόκληρη τη σάρωση και όχι μόνο σε τοπικές υφές
Στοίβες αντίληψης αυτοοδήγησης και ρομποτικής που συνδυάζουν την προσοχή σε στυλ ViT για την κατανόηση της σκηνής σε όλο το οπτικό πεδίο
Κίνδυνοι & προστατευτικά κιγκλιδώματα
Τα δικαιώματα εικόνας και η συναίνεση μπορεί να αποτελέσουν νομικούς κινδύνους εάν η προέλευση είναι ασαφής.
Η απόδοση του μοντέλου μπορεί να διαφέρει ανάλογα με το φωτισμό, τα δημογραφικά στοιχεία και τα περιβάλλοντα.
Τα ψευδώς θετικά μπορεί να περάσουν απαρατήρητα εκτός εάν παρακολουθούνται τα όρια εμπιστοσύνης.
Οδικός Χάρτης Εφαρμογής
Καθορίστε κριτήρια αποδοχής για το κόστος ακρίβειας, ανάκλησης και σφάλματος.
Δοκιμή με δεδομένα που ταιριάζουν με πραγματικές συνθήκες παραγωγής.
Προσθέστε ανθρώπινη κριτική για προβλέψεις χαμηλής εμπιστοσύνης ή υψηλού αντίκτυπου.
Παρακολουθήστε τη μετατόπιση του μοντέλου και επικυρώστε εκ νέου μετά από αλλαγές κάμερας ή δεδομένων.
Συνεχίστε την εξερεύνηση
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Vision Transformers quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Επόμενος οδηγός
Μοντέλα CLIP και Vision-Language
Συχνές ερωτήσεις
What is Vision Transformers?
Τα Vision Transformers (ViTs) εφαρμόζουν την αρχιτεκτονική του μετασχηματιστή που τροφοδοτεί το ChatGPT στις εικόνες, αντιμετωπίζοντας μια εικόνα ως μια ακολουθία patches αντί για ένα πλέγμα pixel. Απέδειξαν ότι δεν χρειάζεστε περιελίξεις για να επιτύχετε αναγνώριση εικόνας αιχμής.
Πώς επεξεργάζεται αρχικά ένα Vision Transformer μια εικόνα εισόδου;
Ένα ViT διαιρεί την εικόνα σε σταθερές ενημερωμένες εκδόσεις (συχνά 16x16 pixel), ενσωματώνει κάθε patch ως διακριτικό και τροφοδοτεί την ακολουθία σε έναν μετασχηματιστή.
Ποιος βασικός μηχανισμός επιτρέπει σε ένα ViT να συσχετίσει μακρινά μέρη μιας εικόνας μεταξύ τους;
Η αυτοπροσοχή επιτρέπει σε κάθε ενημερωμένη έκδοση κώδικα να ζυγίζει απευθείας πληροφορίες από κάθε άλλη ενημερωμένη έκδοση κώδικα, δίνοντας μια συνολική εικόνα από το πρώτο επίπεδο.
Γιατί τα απλά Vision Transformers χρειάζονται συνήθως πολύ μεγάλα σύνολα δεδομένων εκπαίδευσης για να υπερέχουν;
Σε αντίθεση με τα CNN, τα ViT δεν υποθέτουν τοπικότητα ή μεταβλητότητα μετάφρασης, επομένως πρέπει να μάθουν αυτά τα μοτίβα από μεγάλες ποσότητες δεδομένων.
Ποιος είναι ο σκοπός των κωδικοποιήσεων θέσης σε ένα Vision Transformer;
Η αυτοπροσοχή είναι αγνωστική, επομένως οι κωδικοποιήσεις θέσης αποκαθιστούν τη χωρική θέση κάθε μπαλώματος.
Ποια δήλωση αντικατοπτρίζει καλύτερα τον αντίκτυπο του ViT στην όραση του υπολογιστή;
Το ViT έδειξε ότι ένας καθαρός μετασχηματιστής, με επαρκή δεδομένα και κλίμακα, μπορεί να ανταγωνιστεί ή να ξεπεράσει τα καλύτερα συνελικτικά δίκτυα.