ΕπόμενοΕπόμενος οδηγός
Γενιά από κείμενο σε 3D
Οπτική τεχνητή νοημοσύνη
ΟΔΗΓΟΣ οπτικού AI
GLIGEN Grounded Generation
Το GLIGEN (Grounded-Language-to-Image Generation) σάς επιτρέπει να ελέγχετε ακριβώς πού εμφανίζονται τα αντικείμενα σε μια εικόνα που δημιουργείται, τροφοδοτώντας τα πλαίσια οριοθέτησης του μοντέλου και τις ετικέτες παράλληλα με το μήνυμα κειμένου.
Ακούστε αυτόν τον οδηγόαφήγηση με AI · ~2 min
Σε αυτήν τη σελίδα2 λεπτά ανάγνωση
Επισκόπηση
Μετατρέπει το ασαφές κείμενο σε εικόνα σε ακριβή, ελεγχόμενη από τη διάταξη σύνθεση.
Βαθιά κατάδυση
Τα τυπικά μοντέλα κειμένου σε εικόνα δυσκολεύονται με τον χωρικό έλεγχο: ζητήστε «μια γάτα στα αριστερά του σκύλου» και συχνά κάνετε λάθος τοποθέτηση. Το GLIGEN, που εισήχθη το 2023, το λύνει αυτό προσθέτοντας εισόδους γείωσης, όπως πλαίσια οριοθέτησης σε συνδυασμό με οντότητες κειμένου ή εικόνας, σημεία-κλειδιά ή εικόνες αναφοράς. Το σημαντικότερο είναι ότι παγώνει τα βάρη του αρχικού προεκπαιδευμένου μοντέλου διάχυσης και εγχέει νέα εκπαιδεύσιμα κλειστά στρώματα αυτοπροσοχής που απορροφούν τα διακριτικά γείωσης. Αυτό σημαίνει ότι βασίζεται σε ένα μοντέλο όπως το Stable Diffusion χωρίς να καταστρέφει τις γνώσεις του και η πύλη ξεκινά σχεδόν στο μηδέν, έτσι ώστε η συμπεριφορά του βασικού μοντέλου να διατηρείται νωρίς στην εκπαίδευση. Το αποτέλεσμα είναι η γειωμένη παραγωγή ανοιχτού κόσμου: μπορείτε να τοποθετήσετε αυθαίρετα περιγραφόμενα αντικείμενα σε καθορισμένες τοποθεσίες και γενικεύεται σε έννοιες και διατάξεις που δεν εμφανίζονται κατά τη διάρκεια της εκπαίδευσης γείωσης.
Υλοποίηση σε πραγματικό κόσμο
Τοποθέτηση ενός λογότυπου ή ενός προϊόντος σε μια ακριβή περιοχή μιας διαφήμισης που δημιουργήθηκε χρησιμοποιώντας ένα πλαίσιο οριοθέτησης
Σύνθεση σύνθετων σκηνών καθορίζοντας πού πρέπει να κάθεται κάθε χαρακτήρας ή αντικείμενο πριν από την απόδοση
Δημιουργία εκπαιδευτικών δεδομένων για ανίχνευση αντικειμένων με γνωστές θέσεις πλαισίου επίγειας αλήθειας
Ένταξη ενός περιγραφόμενου αντικειμένου σε μια περιοχή που σχεδίασε ο χρήστης μιας υπάρχουσας φωτογραφίας
Το μέλλον της GLIGEN Grounded Generation
Η γειωμένη και ελεγχόμενη από τη διάταξη παραγωγή καθίσταται στάνταρ στα εργαλεία παραγωγής. Αναμένετε ότι η χωρική ρύθμιση τύπου GLIGEN θα συγχωνευθεί με άλλες μεθόδους ελέγχου, όπως το ControlNet και η περιφερειακή προτροπή, και θα επεκταθεί σε βίντεο και 3D όπου η τοποθέτηση αντικειμένων στο χρόνο και στο χώρο έχει ακόμα μεγαλύτερη σημασία. Καθώς τα μοντέλα υιοθετούν διεπαφές που ακολουθούν οδηγίες, ο έλεγχος διάταξης μεταφοράς και απόθεσης και τα γραφήματα σκηνής που καθορίζονται στη γλώσσα θα κάνουν την ακριβή σύνθεση προσβάσιμη χωρίς κόλπα άμεσης μηχανικής.
Κάνοντάς το στην πράξη
Γιατί έχει σημασία
- Ταχύτητα και κλίμακα. Το Visual AI μπορεί να αυτοματοποιήσει εργασίες επιθεώρησης, ανίχνευσης και επισήμανσης σε κλίμακα.
- Δημιουργήστε επιλογές. Οι δημιουργικές ομάδες μπορούν να δημιουργήσουν πρωτότυπες ιδέες γρηγορότερα με λιγότερες μη αυτόματες αναθεωρήσεις.
- Ομάδα και ροή εργασίας. Οι λειτουργίες μπορούν να χρησιμοποιούν σήματα εικόνας και βίντεο που προηγουμένως ήταν δύσκολο να επεξεργαστούν.
Προσέξτε
- Τα δικαιώματα εικόνας και η συναίνεση μπορεί να αποτελέσουν νομικούς κινδύνους εάν η προέλευση είναι ασαφής.
- Η απόδοση του μοντέλου μπορεί να διαφέρει ανάλογα με το φωτισμό, τα δημογραφικά στοιχεία και τα περιβάλλοντα.
- Τα ψευδώς θετικά μπορεί να περάσουν απαρατήρητα εκτός εάν παρακολουθούνται τα όρια εμπιστοσύνης.
Επόμενα βήματα
- Καθορίστε κριτήρια αποδοχής για το κόστος ακρίβειας, ανάκλησης και σφάλματος.
- Δοκιμή με δεδομένα που ταιριάζουν με πραγματικές συνθήκες παραγωγής.
- Προσθέστε ανθρώπινη κριτική για προβλέψεις χαμηλής εμπιστοσύνης ή υψηλού αντίκτυπου.
- Παρακολουθήστε τη μετατόπιση του μοντέλου και επικυρώστε εκ νέου μετά από αλλαγές κάμερας ή δεδομένων.
Συνεχίστε την εξερεύνηση
Δωρεάν ενημερωτικό δελτίο
Λάβετε την καθημερινή ενημέρωση AI
Τρία επαληθευμένα νέα AI κάθε πρωί της εβδομάδας, γραμμένα σε απλή αγγλική. Δωρεάν για πάντα, χωρίς διαφημίσεις.
Ένα email κάθε εργάσιμη ημέρα. Κατάργηση συνδρομής με ένα κλικ. Δεν πουλάμε ή μοιραζόμαστε ποτέ τη διεύθυνσή σας.
Δοκιμάστε τον εαυτό σας
Take the GLIGEN Grounded Generation quiz
Άμεση ανάδραση σε κάθε απάντηση, και πιστοποιητικό με επαληθεύσιμο ID μόλις περάσετε το μάθημα.
Υποστηρίξτε τη δωρεάν εκπαίδευση AI. AI Understanding είναι μια μη κερδοσκοπική οργάνωση 501(c)(3) — χωρίς διαφημίσεις, χωρίς τοίχο πληρωμής, ποτέ. Κάντε μια δωρεά
Συχνές ερωτήσεις
Τι είναι το GLIGEN Grounded Generation;
Το GLIGEN (Grounded-Language-to-Image Generation) σάς επιτρέπει να ελέγχετε ακριβώς πού εμφανίζονται τα αντικείμενα σε μια εικόνα που δημιουργείται, τροφοδοτώντας τα πλαίσια οριοθέτησης του μοντέλου και τις ετικέτες παράλληλα με το μήνυμα κειμένου. Μετατρέπει το ασαφές κείμενο σε εικόνα σε ακριβή, ελεγχόμενη από τη διάταξη σύνθεση.
Ποιο πρόβλημα επιλύει πρωτίστως το GLIGEN;
Το GLIGEN προσθέτει εισόδους γείωσης, όπως πλαίσια οριοθέτησης, ώστε να μπορείτε να ελέγχετε ακριβώς πού τοποθετούνται τα αντικείμενα, τα οποία δεν χειρίζονται σωστά τα μηνύματα απλού κειμένου.
Πώς διατηρεί το GLIGEN τη γνώση του προεκπαιδευμένου μοντέλου διάχυσης;
Το GLIGEN παγώνει το βασικό μοντέλο και εισάγει νέα περιφραγμένα στρώματα αυτοπροσοχής, έτσι ώστε η αρχική γνώση να παραμένει ανέπαφη.
Τι είναι μια τυπική είσοδος γείωσης που δέχεται το GLIGEN;
Το GLIGEN υποστηρίζει τη γείωση μέσω πλαισίων οριοθέτησης με οντότητες κειμένου/εικόνας, σημεία-κλειδιά και εικόνες αναφοράς.
Γιατί η πύλη στα νέα επίπεδα προσοχής του GLIGEN έχει αρχικοποιηθεί στο μηδέν;
Μια πύλη με μηδενική αρχικοποίηση σημαίνει ότι η γείωση δεν έχει κανένα αποτέλεσμα αρχικά, διατηρώντας το αρχικό μοντέλο και διατηρώντας την προπόνηση σταθερή καθώς ανεβαίνουν οι ράμπες ελέγχου.
Τι σημαίνει γειωμένη γενιά «ανοιχτού κόσμου» στο GLIGEN;
Το GLIGEN γενικεύει πέρα από το σετ εκπαίδευσης της γείωσης, τοποθετώντας νέα περιγραφόμενα αντικείμενα σε καθορισμένες τοποθεσίες.
Συνέχισε να μαθαίνεις
Σχετικοί οδηγοί
Επιλέχθηκαν περισσότεροι οδηγοί για αυτό το θέμα