Πεδία νευρικής ακτινοβολίας
Τα Neural Radiance Fields (NeRF) ανασυνθέτουν μια πλήρη τρισδιάστατη σκηνή από μια χούφτα συνηθισμένων φωτογραφιών, επιτρέποντάς σας να πετάξετε την κάμερα σε ολοκαίνουργιες απόψεις.
Επισκόπηση
It reframed 3D capture as training a tiny neural network rather than building a mesh.
Βαθιά κατάδυση
Το NeRF, το οποίο εισήχθη το 2020 από τον Mildenhall και τους συνεργάτες του, αποθηκεύει μια ολόκληρη σκηνή μέσα σε ένα μικρό νευρωνικό δίκτυο (ένα πολυστρωματικό perceptron). Με δεδομένο ένα τρισδιάστατο σημείο και μια κατεύθυνση θέασης, το δίκτυο εξάγει το χρώμα αυτού του σημείου και πόσο αδιαφανές είναι. Για να αποδώσει ένα εικονοστοιχείο, το NeRF εκτοξεύει μια ακτίνα στη σκηνή, λαμβάνει δείγματα σημείων κατά μήκος της, ερωτά το δίκτυο και συνδυάζει τα αποτελέσματα χρησιμοποιώντας απόδοση όγκου. Επειδή όλη αυτή η διαδικασία είναι διαφοροποιήσιμη, το δίκτυο εκπαιδεύεται συγκρίνοντας τα εικονοστοιχεία που έχουν αποδοθεί με τις πραγματικές φωτογραφίες εισόδου και προσαρμόζονται μέχρι να ταιριάζουν. Η ανταμοιβή είναι εντυπωσιακός φωτορεαλισμός, συμπεριλαμβανομένων των εφέ που εξαρτώνται από την προβολή, όπως αντανακλάσεις και γυαλιστερά σημεία που αλλάζουν καθώς κινείστε. Τα μειονεκτήματα είναι ότι κάθε σκηνή χρειάζεται τη δική της διαδρομή εκπαίδευσης και η αρχική μέθοδος ήταν αργή τόσο στην εκπαίδευση όσο και στην απόδοση.
Τεχνική διορατικότητα
Το NeRF αντιπροσωπεύει μια σκηνή ως μια συνεχή λειτουργία 5D: εισάγετε μια θέση (x, y, z) συν μια κατεύθυνση θέασης (δύο γωνίες) και το MLP επιστρέφει χρώμα RGB και πυκνότητα έντασης. Μια κρίσιμη λεπτομέρεια είναι η κωδικοποίηση θέσης, η οποία χαρτογραφεί τις συντεταγμένες μέσω συναρτήσεων ημιτονοειδούς και συνημιτονοειδούς υψηλής συχνότητας, ώστε το δίκτυο να μπορεί να καταγράψει ευκρινείς λεπτομέρειες αντί να παράγει θολή έξοδο. Η απόδοση ενσωματώνει το χρώμα και την πυκνότητα κατά μήκος κάθε ακτίνας κάμερας, ζυγίζοντας πιο κοντά, πιο αδιαφανή δείγματα πιο έντονα, ακριβώς όπως τα μαθηματικά της κλασικής απόδοσης όγκου που γίνονται εκπαιδεύσιμα.
Στρατηγικός αντίκτυπος
Ταχύτητα και κλίμακα
Το Visual AI μπορεί να αυτοματοποιήσει εργασίες επιθεώρησης, ανίχνευσης και επισήμανσης σε κλίμακα.
Δημιουργήστε επιλογές
Οι δημιουργικές ομάδες μπορούν να δημιουργήσουν πρωτότυπες ιδέες γρηγορότερα με λιγότερες μη αυτόματες αναθεωρήσεις.
Ομάδα και ροή εργασίας
Οι λειτουργίες μπορούν να χρησιμοποιούν σήματα εικόνας και βίντεο που προηγουμένως ήταν δύσκολο να επεξεργαστούν.
Το μέλλον των πεδίων νευρικής ακτινοβολίας
Η έρευνα για το NeRF εκτοξεύτηκε μετά το 2020, με παρακολούθηση όπως το Instant-NGP που κόβει την εκπαίδευση από ώρες σε δευτερόλεπτα χρησιμοποιώντας κωδικοποιήσεις hash-grid και το Mip-NeRF βελτιώνει την ποιότητα σε όλες τις κλίμακες. Το πεδίο συγχωνεύεται όλο και περισσότερο ή αμφισβητείται από το Gaussian Splatting, το οποίο αποδίδεται ταχύτερα. Αναμένετε τεχνικές που προέρχονται από το NeRF στη χαρτογράφηση, προβολές προϊόντων ηλεκτρονικού εμπορίου, οπτικά εφέ ταινιών και AR/VR, καθώς και ανάπτυξη δυναμικών NeRF που χειρίζονται κινούμενες σκηνές και λήψεις "in-the-wild" με μεταβαλλόμενο φωτισμό. Τα μεγάλα θέματα είναι η ταχύτητα, η δυνατότητα επεξεργασίας και η λήψη σκηνών από λιγότερες, πιο ακατάστατες φωτογραφίες.
Υλοποίηση σε πραγματικό κόσμο
Μετατρέποντας ένα βίντεο τηλεφώνου ενός αντικειμένου σε τρισδιάστατη προβολή, μπορείτε να περιφέρεστε για online αγορές
Ανακατασκευή πραγματικών τοποθεσιών ως φωτορεαλιστικά σκηνικά για φιλμ και οπτικά εφέ
Δημιουργία καθηλωτικών τρισδιάστατων σκηνών για εμπειρίες εικονικής και επαυξημένης πραγματικότητας
Ψηφιακή διατήρηση χώρων πολιτιστικής κληρονομιάς και αντικειμένων από φωτογραφικά σετ
Κίνδυνοι & προστατευτικά κιγκλιδώματα
Τα δικαιώματα εικόνας και η συναίνεση μπορεί να αποτελέσουν νομικούς κινδύνους εάν η προέλευση είναι ασαφής.
Η απόδοση του μοντέλου μπορεί να διαφέρει ανάλογα με το φωτισμό, τα δημογραφικά στοιχεία και τα περιβάλλοντα.
Τα ψευδώς θετικά μπορεί να περάσουν απαρατήρητα εκτός εάν παρακολουθούνται τα όρια εμπιστοσύνης.
Οδικός Χάρτης Εφαρμογής
Καθορίστε κριτήρια αποδοχής για το κόστος ακρίβειας, ανάκλησης και σφάλματος.
Δοκιμή με δεδομένα που ταιριάζουν με πραγματικές συνθήκες παραγωγής.
Προσθέστε ανθρώπινη κριτική για προβλέψεις χαμηλής εμπιστοσύνης ή υψηλού αντίκτυπου.
Παρακολουθήστε τη μετατόπιση του μοντέλου και επικυρώστε εκ νέου μετά από αλλαγές κάμερας ή δεδομένων.
Συνεχίστε την εξερεύνηση
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Neural Radiance Fields quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Επόμενος οδηγός
Mip-NeRF και Anti-Aliased Radiance Fields
Συχνές ερωτήσεις
What is Neural Radiance Fields?
Τα Neural Radiance Fields (NeRF) ανασυνθέτουν μια πλήρη τρισδιάστατη σκηνή από μια χούφτα συνηθισμένων φωτογραφιών, επιτρέποντάς σας να πετάξετε την κάμερα σε ολοκαίνουργιες απόψεις. Αναπλαισίωνε την τρισδιάστατη σύλληψη ως εκπαίδευση σε ένα μικροσκοπικό νευρωνικό δίκτυο αντί για δημιουργία πλέγματος.
Ποιος είναι ο κύριος στόχος ενός πεδίου νευρικής ακτινοβολίας;
Το NeRF δημιουργεί μια τρισδιάστατη αναπαράσταση από ένα σύνολο εικόνων, επιτρέποντας φωτορεαλιστική απόδοση από οπτικές γωνίες που δεν είναι στις αρχικές φωτογραφίες.
Τι βγάζει το νευρωνικό δίκτυο NeRF για μια δεδομένη είσοδο;
Για μια τρισδιάστατη θέση και κατεύθυνση προβολής, το MLP επιστρέφει το χρώμα και την πυκνότητα (αδιαφάνεια) σε αυτό το σημείο.
Ποιες είναι οι είσοδοι στη λειτουργία 5D του NeRF;
Το NeRF λαμβάνει μια τρισδιάστατη θέση (x, y, z) και μια κατεύθυνση θέασης (δύο γωνίες), με συνολικά πέντε εισόδους.
Πώς το NeRF μετατρέπει τις εξόδους του δικτύου του σε ένα τελικό χρώμα pixel;
Το NeRF δείχνει δείγματα κατά μήκος κάθε ακτίνας και ενσωματώνει το χρώμα τους σταθμισμένο με βάση την πυκνότητα, την κλασική εξίσωση απόδοσης όγκου που γίνεται διαφοροποιήσιμη.
Γιατί το NeRF χρησιμοποιεί κωδικοποίηση θέσης στις συντεταγμένες εισόδου;
Η χαρτογράφηση συντεταγμένων μέσω συναρτήσεων ημιτονοειδούς/συνημιτονοειδούς υψηλής συχνότητας επιτρέπει στο MLP να αναπαριστά λεπτομερείς λεπτομέρειες αντί για θολά αποτελέσματα.