VQ-VAE και διακριτά λανθάνοντα
Το VQ-VAE συμπιέζει εικόνες, ήχο ή βίντεο σε ένα μικρό πλέγμα διακριτών κωδικών που προέρχονται από ένα βιβλίο κωδίκων που έχει μάθει, αντί για συνεχείς αριθμούς.
Επισκόπηση
Αυτό το διακριτό σημείο συμφόρησης επιτρέπει σε ισχυρά μοντέλα αλληλουχίας, όπως τα Transformers, να αντιμετωπίζουν τα μέσα ως «tokens», σαν λέξεις.
Βαθιά κατάδυση
Ο VQ-VAE (Vector Quantized Variational Autoencoder), που εισήχθη από τον van den Oord και τους συνεργάτες του στο DeepMind το 2017, είναι ένας αυτόματος κωδικοποιητής του οποίου ο λανθάνοντας χώρος είναι διακριτός. Ένας κωδικοποιητής μετατρέπει μια εικόνα σε ένα πλέγμα συνεχών διανυσμάτων. Στη συνέχεια, κάθε διάνυσμα αποσπάται στην πλησιέστερη καταχώρισή του σε ένα μαθημένο βιβλίο κωδικών ενσωματώσεων (διανυσματική κβαντοποίηση). Ο αποκωδικοποιητής αναδομεί την εικόνα από αυτούς τους κβαντισμένους κώδικες. Επειδή τα λανθάνοντα είναι πλέον ένα πεπερασμένο λεξιλόγιο δεικτών, ένα ξεχωριστό μοντέλο μπορεί να μάθει τη διανομή τους και να δημιουργήσει νέο περιεχόμενο. Αυτή η συνταγή δύο σταδίων τροφοδοτεί το DALL-E 1, το Jukebox για μουσική και το VQGAN, το οποίο προσθέτει μια αντιληπτική και αντίθετη απώλεια για πιο ευκρινείς ανακατασκευές. Το VQ-VAE-2 στοίβαξε πολλαπλές αναλύσεις για να παράγει εικόνες υψηλής πιστότητας.
Τεχνική διορατικότητα
Το βήμα κβαντισμού (αναζήτηση πλησιέστερου γείτονα αργμίν) είναι μη διαφοροποιήσιμο, επομένως το VQ-VAE χρησιμοποιεί έναν εκτιμητή ευθεία: οι διαβαθμίσεις αντιγράφονται απευθείας από την είσοδο του αποκωδικοποιητή πίσω στην έξοδο του κωδικοποιητή σαν η κβαντοποίηση να ήταν η ταυτότητα. Η εκπαίδευση συνδυάζει μια απώλεια ανακατασκευής, μια απώλεια βιβλίου κωδικών που τραβάει ενσωματώσεις προς τις εξόδους του κωδικοποιητή και μια απώλεια δέσμευσης που διατηρεί τον κωδικοποιητή δεσμευμένο στους επιλεγμένους κωδικούς του. Μια συνηθισμένη αποτυχία είναι η κατάρρευση του βιβλίου κωδίκων, όπου χρησιμοποιούνται μόνο λίγοι κωδικοί.
Στρατηγικός αντίκτυπος
Ταχύτητα και κλίμακα
Το Visual AI μπορεί να αυτοματοποιήσει εργασίες επιθεώρησης, ανίχνευσης και επισήμανσης σε κλίμακα.
Δημιουργήστε επιλογές
Οι δημιουργικές ομάδες μπορούν να δημιουργήσουν πρωτότυπες ιδέες γρηγορότερα με λιγότερες μη αυτόματες αναθεωρήσεις.
Ομάδα και ροή εργασίας
Οι λειτουργίες μπορούν να χρησιμοποιούν σήματα εικόνας και βίντεο που προηγουμένως ήταν δύσκολο να επεξεργαστούν.
Το μέλλον του VQ-VAE και των διακριτών λανθάνοντα
Τα διακριτά λανθάνοντα είναι κεντρικά στην ώθηση προς ενοποιημένα πολυτροπικά μοντέλα που ενοποιούν εικόνες, ήχο και βίντεο στο ίδιο λεξιλόγιο με το κείμενο. Βελτιώσεις όπως ο υπολειπόμενος και πεπερασμένος βαθμωτός κβαντισμός, τα μεγαλύτερα βιβλία κωδίκων και η καλύτερη εξισορρόπηση χρήσης μειώνουν την κατάρρευση και ενισχύουν την πιστότητα. Καθώς τα μοντέλα στοχεύουν τόσο στην κατανόηση όσο και στη δημιουργία διαφορετικών τρόπων, τα ισχυρά tokenizers που βασίζονται στις ιδέες VQ-VAE θα παραμείνουν ένα θεμελιώδες συστατικό, όλο και περισσότερο ανταγωνιστικά και συνδυαζόμενα με προσεγγίσεις συνεχούς λανθάνουσας διάχυσης.
Υλοποίηση σε πραγματικό κόσμο
Το DALL-E 1 χρησιμοποίησε ένα διακριτό tokenizer VQ-VAE, έτσι ώστε ένας μετασχηματιστής να μπορεί να δημιουργεί εικόνες ως ακολουθίες δεικτών βιβλίου κωδίκων.
Το VQGAN συνδύασε το VQ-VAE με αντίπαλες και αντιληπτικές απώλειες για να παράγει καθαρά διακριτικά εικόνας υψηλής ανάλυσης για τη δημιουργία τέχνης.
Το Jukebox του OpenAI εφάρμοσε το VQ-VAE στον ακατέργαστο ήχο, συμπιέζοντας τη μουσική σε διακριτούς κώδικες για γενετική μοντελοποίηση.
Το VQ-VAE-2 στοίβαξε ιεραρχικά διακριτά λανθάνοντα στοιχεία για τη σύνθεση διαφορετικών εικόνων υψηλής πιστότητας που συναγωνίζονται τα GAN της εποχής του.
Κίνδυνοι & προστατευτικά κιγκλιδώματα
Τα δικαιώματα εικόνας και η συναίνεση μπορεί να αποτελέσουν νομικούς κινδύνους εάν η προέλευση είναι ασαφής.
Η απόδοση του μοντέλου μπορεί να διαφέρει ανάλογα με το φωτισμό, τα δημογραφικά στοιχεία και τα περιβάλλοντα.
Τα ψευδώς θετικά μπορεί να περάσουν απαρατήρητα εκτός εάν παρακολουθούνται τα όρια εμπιστοσύνης.
Οδικός Χάρτης Εφαρμογής
Καθορίστε κριτήρια αποδοχής για το κόστος ακρίβειας, ανάκλησης και σφάλματος.
Δοκιμή με δεδομένα που ταιριάζουν με πραγματικές συνθήκες παραγωγής.
Προσθέστε ανθρώπινη κριτική για προβλέψεις χαμηλής εμπιστοσύνης ή υψηλού αντίκτυπου.
Παρακολουθήστε τη μετατόπιση του μοντέλου και επικυρώστε εκ νέου μετά από αλλαγές κάμερας ή δεδομένων.
Συνεχίστε την εξερεύνηση
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the VQ-VAE and Discrete Latents quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Επόμενος οδηγός
Λανθάνουσα ανάμειξη και παρεμβολή εικόνας
Συχνές ερωτήσεις
Τι είναι το VQ-VAE και τα διακριτά λανθάνοντα;
Το VQ-VAE συμπιέζει εικόνες, ήχο ή βίντεο σε ένα μικρό πλέγμα διακριτών κωδικών που προέρχονται από ένα βιβλίο κωδίκων που έχει μάθει, αντί για συνεχείς αριθμούς. Αυτό το διακριτό σημείο συμφόρησης επιτρέπει σε ισχυρά μοντέλα αλληλουχίας, όπως τα Transformers, να αντιμετωπίζουν τα μέσα ως «tokens», σαν λέξεις.
Τι κάνει τον λανθάνοντα χώρο του VQ-VAE διαφορετικό από έναν τυπικό VAE;
Το VQ-VAE αντικαθιστά συνεχείς λανθάνοντες κωδικούς με διακριτούς κώδικες που προέρχονται από ένα μαθημένο βιβλίο κωδικών μέσω διανυσματικής κβαντοποίησης.
Πώς περνάει το VQ-VAE τις διαβαθμίσεις μέσω του μη διαφοροποιήσιμου βήματος κβαντισμού;
Ο εκτιμητής απευθείας αντιγράφει τη διαβάθμιση εισόδου αποκωδικοποιητή απευθείας στην έξοδο του κωδικοποιητή, αντιμετωπίζοντας την κβαντοποίηση ως ταυτότητα για το πίσω πέρασμα.
Τι είναι η «σύμπτυξη βιβλίου κωδικών»;
Η κατάρρευση του βιβλίου κωδίκων συμβαίνει όταν το μοντέλο βασίζεται σε λίγους μόνο κωδικούς, σπαταλώντας το μεγαλύτερο μέρος του βιβλίου κωδίκων και βλάπτοντας τη διαφορετικότητα.
Γιατί είναι χρήσιμα τα διακριτά λανθάνοντα για τη γενετική μοντελοποίηση με μετασχηματιστές;
Οι διακριτοί δείκτες σχηματίζουν ένα πεπερασμένο λεξιλόγιο, έτσι τα μοντέλα ακολουθίας όπως τα Transformers μπορούν να μάθουν και να δοκιμάσουν την κατανομή τους ακριβώς όπως οι λέξεις.
Τι πρόσθεσε το VQGAN πάνω από τη βασική συνταγή VQ-VAE;
Το VQGAN ενισχύει το VQ-VAE με διαχωριστικό και αντιληπτική απώλεια, αποδίδοντας πιο καθαρά, πιο λεπτομερή ανακατασκευασμένα διακριτικά.