Гауссове нанесення
Gaussian Splatting представляє 3D-сцену як мільйони крихітних кольорових напівпрозорих крапель, які можна відобразити в реальному часі.
Огляд
It delivers NeRF-like photorealism while running fast enough for interactive viewing.
Глибоке занурення
3D Gaussian Splatting, представлений на SIGGRAPH 2023, реконструює сцени з фотографій, як-от NeRF, але використовує явне представлення замість прихованої нейронної мережі. Кожна сцена — це хмара тривимірних гауссів, нечітких еліпсоїдальних крапель, і кожна крапка зберігає положення, розмір і орієнтацію (його коваріацію), непрозорість і колір. Замість того, щоб повільно пропускати промені через мережу, цей метод «розкидає» ці краплі безпосередньо на екран і змішує їх, процес, ближчий до традиційної растеризації, а тому дуже швидкий. Навчання починається з розрідженої хмари точок, створеної в результаті калібрування камери, потім оптимізує краплі, адаптивно додаючи деталі там, де сцена недостатньо реконструйована, і обрізаючи там, де вона переповнена. Результатом є рендеринг у режимі реального часу з роздільною здатністю 1080p із якістю, що конкурує з найкращими NeRF, тому він швидко поширюється серед графічних засобів та інструментів захоплення.
Технічне розуміння
Ключем є диференційований растеризатор на основі плиток. 3D-гауссів проектується у 2D, сортується за глибиною та альфа-змішується на мозаїку екрана, тому рендеринг уникає маршування променів на піксель, що сповільнює NeRF. Колір зберігається за допомогою сферичних гармонік, що дозволяє кожній плямі змінювати зовнішній вигляд залежно від кута огляду для вловлювання відображень. Оскільки весь конвеєр можна диференціювати, той самий градієнтний спуск зі збігом фотографій, який використовується NeRF, оптимізує позиції, форми, непрозорість і кольори крапки, тоді як крок ущільнення збільшує або розділяє гауссів, щоб додати відсутні деталі.
Стратегічний вплив
Швидкість і масштаб
Візуальний штучний інтелект може автоматизувати масштабні завдання перевірки, виявлення та позначення тегами.
Створіть вибір
Творчі групи можуть створювати прототипи концепцій швидше з меншою кількістю переглядів вручну.
Команда та робочий процес
Операції можуть використовувати зображення та відеосигнали, які раніше було важко обробити.
Майбутнє гауссового нанесення
Gaussian Splatting швидко переходить від досліджень до продуктів для 3D-захоплення, картографування та віртуального виробництва, частково тому, що він рендерить у реальному часі на споживчих графічних процесорах і навіть у браузерах. Активна робота спрямована на зменшення розмірів файлів (сцени можуть бути великими), обробку динамічних та анімованих сцен, пересвітлення та редагування окремих об’єктів. Очікуйте більш тісної інтеграції з ігровими движками та AR/VR, гібридними методами, які поєднують знаки з сітками, і захоплення відео з телефону. Це все більше розглядається як практичне доповнення або заміна NeRF там, де інтерактивна швидкість має значення.
Реалізація в реальному світі
Створення в режимі реального часу тривимірних знімків приміщень або продуктів для Інтернету
Віртуальне виробництво та попередня візуалізація фільму з фотореалістичними навігаційними наборами
Швидке 3D-сканування об'єктів і середовища з відео з телефону або дрона
Створення інтерактивних сцен AR/VR, які безперебійно працюють на споживчому обладнанні
Ризики та огорожі
Права на зображення та згода можуть стати юридичними ризиками, якщо походження невідоме.
Продуктивність моделі може відрізнятися залежно від освітлення, демографічних показників і середовища.
Помилкові спрацьовування можуть залишитися непоміченими, якщо не відстежувати пороги довіри.
Дорожня карта впровадження
Визначте критерії прийнятності для точності, відкликання та вартості помилок.
Тестуйте з даними, які відповідають реальним умовам виробництва.
Додайте перевірку людиною для прогнозів із низьким рівнем достовірності або високого впливу.
Відстежуйте дрейф моделі та повторно перевіряйте після зміни камери або набору даних.
Продовжуйте досліджувати
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Gaussian Splatting quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Наступний посібник
Гауссівські процеси
Часті запитання
What is Gaussian Splatting?
Gaussian Splatting представляє 3D-сцену як мільйони крихітних кольорових напівпрозорих крапель, які можна відобразити в реальному часі. Він забезпечує фотореалізм, схожий на NeRF, і працює досить швидко для інтерактивного перегляду.
Як Gaussian Splatting представляє 3D-сцену?
Сцена — це явна хмара тривимірних гауссів, кожна з яких є нечітким еліпсоїдом із положенням, формою, непрозорістю та кольором.
Чому Gaussian Splatting рендериться набагато швидше, ніж оригінальний NeRF?
Проектування та змішування крапель за допомогою растеризації на основі мозаїк дозволяє уникнути повільного кроку піксельного променя NeRF, забезпечуючи швидкість у реальному часі.
Яку інформацію зберігає кожен тривимірний Гаусс?
Кожна крапка містить інформацію про положення, коваріацію (розмір і орієнтацію), непрозорість і колір.
Що використовується, щоб колір краплі змінювався залежно від кута огляду?
Колір кодується сферичними гармоніками, тому кожна Гаусса може виглядати по-різному з різних напрямків, вловлюючи відображення.
Як зазвичай починається навчання в Gaussian Splatting?
Він починається з розріджених точок від калібрування камери за структурою руху, а потім оптимізує гауссів.