GLIGEN Grounded Generation
Το GLIGEN (Grounded-Language-to-Image Generation) σάς επιτρέπει να ελέγχετε ακριβώς πού εμφανίζονται τα αντικείμενα σε μια εικόνα που δημιουργείται, τροφοδοτώντας τα πλαίσια οριοθέτησης του μοντέλου και τις ετικέτες παράλληλα με το μήνυμα κειμένου.
Επισκόπηση
It turns vague text-to-image into precise, layout-controllable synthesis.
Βαθιά κατάδυση
Τα τυπικά μοντέλα κειμένου σε εικόνα δυσκολεύονται με τον χωρικό έλεγχο: ζητήστε «μια γάτα στα αριστερά του σκύλου» και συχνά κάνετε λάθος τοποθέτηση. Το GLIGEN, που εισήχθη το 2023, το λύνει αυτό προσθέτοντας εισόδους γείωσης, όπως πλαίσια οριοθέτησης σε συνδυασμό με οντότητες κειμένου ή εικόνας, σημεία-κλειδιά ή εικόνες αναφοράς. Το σημαντικότερο είναι ότι παγώνει τα βάρη του αρχικού προεκπαιδευμένου μοντέλου διάχυσης και εγχέει νέα εκπαιδεύσιμα κλειστά στρώματα αυτοπροσοχής που απορροφούν τα διακριτικά γείωσης. Αυτό σημαίνει ότι βασίζεται σε ένα μοντέλο όπως το Stable Diffusion χωρίς να καταστρέφει τις γνώσεις του και η πύλη ξεκινά σχεδόν στο μηδέν, έτσι ώστε η συμπεριφορά του βασικού μοντέλου να διατηρείται νωρίς στην εκπαίδευση. Το αποτέλεσμα είναι η γειωμένη παραγωγή ανοιχτού κόσμου: μπορείτε να τοποθετήσετε αυθαίρετα περιγραφόμενα αντικείμενα σε καθορισμένες τοποθεσίες και γενικεύεται σε έννοιες και διατάξεις που δεν εμφανίζονται κατά τη διάρκεια της εκπαίδευσης γείωσης.
Τεχνική διορατικότητα
Το GLIGEN αντιπροσωπεύει κάθε οντότητα γείωσης ως διακριτικό που συνδυάζει την ενσωμάτωση κειμένου ή εικόνας με τις χωρικές πληροφορίες του, όπως οι τέσσερις συντεταγμένες ενός πλαισίου οριοθέτησης που κωδικοποιείται μέσω των χαρακτηριστικών Fourier. Αυτά τα διακριτικά γείωσης εισέρχονται στο παγωμένο U-Net διάχυσης μέσω των πρόσφατα εισαγόμενων περιφραγμένων στρωμάτων αυτοπροσοχής που τοποθετούνται μεταξύ των υπαρχόντων μπλοκ αυτοπροσοχής και διασταυρούμενης προσοχής. Μια μαθησιακή πύλη, αρχικοποιημένη στο μηδέν, ελέγχει πόσο η γείωση επηρεάζει τη δημιουργία, επομένως η προσθήκη ελέγχου υποβαθμίζεται με χάρη και η εκπαίδευση παραμένει σταθερή.
Στρατηγικός αντίκτυπος
Ταχύτητα και κλίμακα
Το Visual AI μπορεί να αυτοματοποιήσει εργασίες επιθεώρησης, ανίχνευσης και επισήμανσης σε κλίμακα.
Δημιουργήστε επιλογές
Οι δημιουργικές ομάδες μπορούν να δημιουργήσουν πρωτότυπες ιδέες γρηγορότερα με λιγότερες μη αυτόματες αναθεωρήσεις.
Ομάδα και ροή εργασίας
Οι λειτουργίες μπορούν να χρησιμοποιούν σήματα εικόνας και βίντεο που προηγουμένως ήταν δύσκολο να επεξεργαστούν.
Το μέλλον της GLIGEN Grounded Generation
Η γειωμένη και ελεγχόμενη από τη διάταξη παραγωγή καθίσταται στάνταρ στα εργαλεία παραγωγής. Αναμένετε ότι η χωρική ρύθμιση τύπου GLIGEN θα συγχωνευθεί με άλλες μεθόδους ελέγχου, όπως το ControlNet και η περιφερειακή προτροπή, και θα επεκταθεί σε βίντεο και 3D όπου η τοποθέτηση αντικειμένων στο χρόνο και στο χώρο έχει ακόμα μεγαλύτερη σημασία. Καθώς τα μοντέλα υιοθετούν διεπαφές που ακολουθούν οδηγίες, ο έλεγχος διάταξης μεταφοράς και απόθεσης και τα γραφήματα σκηνής που καθορίζονται στη γλώσσα θα κάνουν την ακριβή σύνθεση προσβάσιμη χωρίς κόλπα άμεσης μηχανικής.
Υλοποίηση σε πραγματικό κόσμο
Τοποθέτηση ενός λογότυπου ή ενός προϊόντος σε μια ακριβή περιοχή μιας διαφήμισης που δημιουργήθηκε χρησιμοποιώντας ένα πλαίσιο οριοθέτησης
Σύνθεση σύνθετων σκηνών καθορίζοντας πού πρέπει να κάθεται κάθε χαρακτήρας ή αντικείμενο πριν από την απόδοση
Δημιουργία εκπαιδευτικών δεδομένων για ανίχνευση αντικειμένων με γνωστές θέσεις πλαισίου επίγειας αλήθειας
Ένταξη ενός περιγραφόμενου αντικειμένου σε μια περιοχή που σχεδίασε ο χρήστης μιας υπάρχουσας φωτογραφίας
Κίνδυνοι & προστατευτικά κιγκλιδώματα
Τα δικαιώματα εικόνας και η συναίνεση μπορεί να αποτελέσουν νομικούς κινδύνους εάν η προέλευση είναι ασαφής.
Η απόδοση του μοντέλου μπορεί να διαφέρει ανάλογα με το φωτισμό, τα δημογραφικά στοιχεία και τα περιβάλλοντα.
Τα ψευδώς θετικά μπορεί να περάσουν απαρατήρητα εκτός εάν παρακολουθούνται τα όρια εμπιστοσύνης.
Οδικός Χάρτης Εφαρμογής
Καθορίστε κριτήρια αποδοχής για το κόστος ακρίβειας, ανάκλησης και σφάλματος.
Δοκιμή με δεδομένα που ταιριάζουν με πραγματικές συνθήκες παραγωγής.
Προσθέστε ανθρώπινη κριτική για προβλέψεις χαμηλής εμπιστοσύνης ή υψηλού αντίκτυπου.
Παρακολουθήστε τη μετατόπιση του μοντέλου και επικυρώστε εκ νέου μετά από αλλαγές κάμερας ή δεδομένων.
Συνεχίστε την εξερεύνηση
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the GLIGEN Grounded Generation quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Επόμενος οδηγός
Γενιά από κείμενο σε 3D
Συχνές ερωτήσεις
What is GLIGEN Grounded Generation?
Το GLIGEN (Grounded-Language-to-Image Generation) σάς επιτρέπει να ελέγχετε ακριβώς πού εμφανίζονται τα αντικείμενα σε μια εικόνα που δημιουργείται, τροφοδοτώντας τα πλαίσια οριοθέτησης του μοντέλου και τις ετικέτες παράλληλα με το μήνυμα κειμένου. Μετατρέπει το ασαφές κείμενο σε εικόνα σε ακριβή, ελεγχόμενη από τη διάταξη σύνθεση.
Ποιο πρόβλημα επιλύει πρωτίστως το GLIGEN;
Το GLIGEN προσθέτει εισόδους γείωσης, όπως πλαίσια οριοθέτησης, ώστε να μπορείτε να ελέγχετε ακριβώς πού τοποθετούνται τα αντικείμενα, τα οποία δεν χειρίζονται σωστά τα μηνύματα απλού κειμένου.
Πώς διατηρεί το GLIGEN τη γνώση του προεκπαιδευμένου μοντέλου διάχυσης;
Το GLIGEN παγώνει το βασικό μοντέλο και εισάγει νέα περιφραγμένα στρώματα αυτοπροσοχής, έτσι ώστε η αρχική γνώση να παραμένει ανέπαφη.
Τι είναι μια τυπική είσοδος γείωσης που δέχεται το GLIGEN;
Το GLIGEN υποστηρίζει τη γείωση μέσω πλαισίων οριοθέτησης με οντότητες κειμένου/εικόνας, σημεία-κλειδιά και εικόνες αναφοράς.
Γιατί η πύλη στα νέα επίπεδα προσοχής του GLIGEN έχει αρχικοποιηθεί στο μηδέν;
Μια πύλη με μηδενική αρχικοποίηση σημαίνει ότι η γείωση δεν έχει κανένα αποτέλεσμα αρχικά, διατηρώντας το αρχικό μοντέλο και διατηρώντας την προπόνηση σταθερή καθώς ανεβαίνουν οι ράμπες ελέγχου.
Τι σημαίνει γειωμένη γενιά «ανοιχτού κόσμου» στο GLIGEN;
Το GLIGEN γενικεύει πέρα από το σετ εκπαίδευσης της γείωσης, τοποθετώντας νέα περιγραφόμενα αντικείμενα σε καθορισμένες τοποθεσίες.