Gaussian Splatting
Το Gaussian Splatting αντιπροσωπεύει μια τρισδιάστατη σκηνή ως εκατομμύρια μικροσκοπικές, χρωματιστές, ημιδιαφανείς σταγόνες που μπορούν να αποδοθούν σε πραγματικό χρόνο.
Επισκόπηση
It delivers NeRF-like photorealism while running fast enough for interactive viewing.
Βαθιά κατάδυση
Το 3D Gaussian Splatting, που παρουσιάστηκε στο SIGGRAPH 2023, αναδομεί σκηνές από φωτογραφίες όπως το NeRF, αλλά χρησιμοποιεί μια ρητή αναπαράσταση αντί για ένα κρυφό νευρωνικό δίκτυο. Κάθε σκηνή είναι ένα σύννεφο από τρισδιάστατα Gaussians, ασαφείς ελλειψοειδείς κηλίδες, και κάθε σταγόνα αποθηκεύει μια θέση, ένα μέγεθος και τον προσανατολισμό (τη συνδιακύμανσή της), μια αδιαφάνεια και ένα χρώμα. Αντί να εκτοξεύει αργά ακτίνες μέσα από ένα δίκτυο, η μέθοδος «πιτσίζει» αυτές τις σταγόνες απευθείας στην οθόνη και τις αναμειγνύει, μια διαδικασία πιο κοντά στην παραδοσιακή ραστεροποίηση και επομένως πολύ γρήγορη. Η εκπαίδευση ξεκινά από ένα σύννεφο αραιού σημείου που παράγεται από τη βαθμονόμηση της κάμερας, στη συνέχεια βελτιστοποιεί τις σταγόνες, ενώ προσθέτει προσαρμοστικά λεπτομέρεια όπου η σκηνή δεν έχει ανακατασκευαστεί και περικόπτει εκεί όπου είναι υπερπληθυσμένη. Το αποτέλεσμα είναι απόδοση σε πραγματικό χρόνο στα 1080p με ποιότητα που συναγωνίζεται τα καλύτερα NeRF, γι' αυτό εξαπλώθηκε γρήγορα μέσω γραφικών και εργαλείων λήψης.
Τεχνική διορατικότητα
Το κλειδί είναι ένας διαφοροποιήσιμος ραστεροποιητής που βασίζεται σε πλακίδια. Τα τρισδιάστατα Gaussians προβάλλονται σε 2D, ταξινομούνται κατά βάθος και αναμειγνύονται με άλφα ανά πλακίδιο οθόνης, επομένως η απόδοση αποφεύγει την πορεία ακτίνων ανά εικονοστοιχείο που κάνει το NeRF αργό. Το χρώμα αποθηκεύεται με σφαιρικές αρμονικές, επιτρέποντας σε κάθε σταγόνα να αλλάξει εμφάνιση με τη γωνία θέασης για να συλλάβει τις αντανακλάσεις. Επειδή ολόκληρος ο αγωγός είναι διαφοροποιήσιμος, η ίδια κάθοδος κλίσης αντιστοίχισης φωτογραφιών που χρησιμοποιείται από το NeRF βελτιστοποιεί τις θέσεις, τα σχήματα, τις αδιαφάνειες και τα χρώματα, ενώ ένα βήμα πυκνοποίησης μεγαλώνει ή χωρίζει τα Gaussians για να προσθέσει λεπτομέρειες που λείπουν.
Στρατηγικός αντίκτυπος
Ταχύτητα και κλίμακα
Το Visual AI μπορεί να αυτοματοποιήσει εργασίες επιθεώρησης, ανίχνευσης και επισήμανσης σε κλίμακα.
Δημιουργήστε επιλογές
Οι δημιουργικές ομάδες μπορούν να δημιουργήσουν πρωτότυπες ιδέες γρηγορότερα με λιγότερες μη αυτόματες αναθεωρήσεις.
Ομάδα και ροή εργασίας
Οι λειτουργίες μπορούν να χρησιμοποιούν σήματα εικόνας και βίντεο που προηγουμένως ήταν δύσκολο να επεξεργαστούν.
Το μέλλον του Gaussian Splatting
Το Gaussian Splatting προχωρά γρήγορα από την έρευνα σε προϊόντα για τρισδιάστατη λήψη, χαρτογράφηση και εικονική παραγωγή, εν μέρει επειδή αποδίδει σε πραγματικό χρόνο σε GPUs καταναλωτών και ακόμη και προγράμματα περιήγησης. Η ενεργή εργασία στοχεύει στη συρρίκνωση των μεγεθών αρχείων (οι σκηνές μπορεί να είναι μεγάλες), στο χειρισμό δυναμικών και κινούμενων σκηνών, στον επαναφωτισμό και στην επεξεργασία μεμονωμένων αντικειμένων. Περιμένετε στενότερη ενσωμάτωση με μηχανές παιχνιδιών και AR/VR, υβριδικές μεθόδους που συνδυάζουν splats με πλέγματα και λήψη βίντεο από το τηλέφωνο. Θεωρείται ολοένα και περισσότερο ως πρακτικό συμπλήρωμα ή αντικατάσταση του NeRF οπουδήποτε έχει σημασία η διαδραστική ταχύτητα.
Υλοποίηση σε πραγματικό κόσμο
Δημιουργία σε πραγματικό χρόνο, εξερευνήσιμες τρισδιάστατες λήψεις δωματίων ή προϊόντων για τον Ιστό
Εικονική παραγωγή και προοπτική προβολή ταινιών με φωτορεαλιστικά, πλοηγήσιμα σκηνικά
Γρήγορη τρισδιάστατη σάρωση αντικειμένων και περιβαλλόντων από τηλέφωνο ή βίντεο drone
Δημιουργία διαδραστικών σκηνών AR/VR που λειτουργούν ομαλά σε καταναλωτικό υλικό
Κίνδυνοι & προστατευτικά κιγκλιδώματα
Τα δικαιώματα εικόνας και η συναίνεση μπορεί να αποτελέσουν νομικούς κινδύνους εάν η προέλευση είναι ασαφής.
Η απόδοση του μοντέλου μπορεί να διαφέρει ανάλογα με το φωτισμό, τα δημογραφικά στοιχεία και τα περιβάλλοντα.
Τα ψευδώς θετικά μπορεί να περάσουν απαρατήρητα εκτός εάν παρακολουθούνται τα όρια εμπιστοσύνης.
Οδικός Χάρτης Εφαρμογής
Καθορίστε κριτήρια αποδοχής για το κόστος ακρίβειας, ανάκλησης και σφάλματος.
Δοκιμή με δεδομένα που ταιριάζουν με πραγματικές συνθήκες παραγωγής.
Προσθέστε ανθρώπινη κριτική για προβλέψεις χαμηλής εμπιστοσύνης ή υψηλού αντίκτυπου.
Παρακολουθήστε τη μετατόπιση του μοντέλου και επικυρώστε εκ νέου μετά από αλλαγές κάμερας ή δεδομένων.
Συνεχίστε την εξερεύνηση
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Gaussian Splatting quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Επόμενος οδηγός
Διαδικασίες Gauss
Συχνές ερωτήσεις
What is Gaussian Splatting?
Το Gaussian Splatting αντιπροσωπεύει μια τρισδιάστατη σκηνή ως εκατομμύρια μικροσκοπικές, χρωματιστές, ημιδιαφανείς σταγόνες που μπορούν να αποδοθούν σε πραγματικό χρόνο. Προσφέρει φωτορεαλισμό τύπου NeRF ενώ λειτουργεί αρκετά γρήγορα για διαδραστική προβολή.
Πώς αντιπροσωπεύει το Gaussian Splatting μια τρισδιάστατη σκηνή;
Η σκηνή είναι ένα ρητό σύννεφο από τρισδιάστατα Gaussians, το καθένα ένα ασαφές ελλειψοειδές με θέση, σχήμα, αδιαφάνεια και χρώμα.
Γιατί το Gaussian Splatting είναι πολύ πιο γρήγορο στην απόδοση από το αρχικό NeRF;
Η προβολή και η ανάμειξη σταγόνων μέσω ραστεροποίησης βάσει πλακιδίων αποφεύγει την αργή πορεία ακτίνων ανά εικονοστοιχείο του NeRF, επιτρέποντας ταχύτητες σε πραγματικό χρόνο.
Ποιες πληροφορίες αποθηκεύει κάθε 3D Gaussian;
Κάθε σταγόνα φέρει μια θέση, μια συνδιακύμανση (μέγεθος και προσανατολισμός), μια αδιαφάνεια και πληροφορίες χρώματος.
Τι χρησιμοποιείται για να αλλάξει το χρώμα μιας σταγόνας ανάλογα με τη γωνία θέασης;
Το χρώμα κωδικοποιείται με σφαιρικές αρμονικές, έτσι κάθε Gaussian μπορεί να εμφανίζεται διαφορετικό από διαφορετικές κατευθύνσεις, συλλαμβάνοντας αντανακλάσεις.
Πώς ξεκινά συνήθως η προπόνηση στο Gaussian Splatting;
Ξεκινά με αραιά σημεία από τη βαθμονόμηση της κάμερας δομής-από-κίνησης και στη συνέχεια βελτιστοποιεί τα Gaussians από εκεί.