Hiển thị khác biệt
Kết xuất có thể phân biệt làm cho quá trình biến cảnh 3D thành hình ảnh 2D có thể phân biệt hoàn toàn, do đó bạn có thể tính toán độ dốc từ các pixel được kết xuất trở lại thông số cảnh.
Tổng quan
This lets you optimize geometry, materials, lighting, and camera using gradient descent.
Lặn sâu
Kết xuất truyền thống là con đường một chiều: cung cấp hình học, vật liệu, ánh sáng, máy ảnh và các pixel xuất hiện. Kết xuất có thể phân biệt đảo ngược luồng đó bằng cách tính toán cách mỗi pixel đầu ra thay đổi đối với mọi tham số đầu vào. Với những chuyển màu đó, trình tối ưu hóa có thể điều chỉnh hình dạng 3D hoặc kết cấu của nó cho đến khi hình ảnh được hiển thị khớp với ảnh mục tiêu, vốn là trung tâm của kết xuất nghịch đảo và phân tích bằng tổng hợp. Khó khăn chính là việc hiển thị liên quan đến sự gián đoạn, đặc biệt là ở các bóng của đối tượng và các cạnh bị che khuất, nơi một pixel đột ngột nhảy từ tiền cảnh sang hậu cảnh. Các phương pháp như rasterization mềm (SoftRas), lấy mẫu cạnh (Li et al.'s redner) và rasterizer trong PyTorch3D xử lý những vấn đề này bằng cách làm mịn hoặc tích phân biên đặc biệt. Đào tạo NeRF và phân chia Gaussian 3D là những ứng dụng phổ biến.
Hiểu biết kỹ thuật
Thách thức cốt lõi là sự gián đoạn về tầm nhìn. Ở hình bóng của một đối tượng, một pixel chuyển từ nền trước sang nền sau, do đó đạo hàm cơ bản gần như bằng 0 ở mọi nơi và không xác định ở rìa, không tạo ra độ dốc hữu ích về hình dạng. Các giải pháp làm giảm phạm vi bao phủ để các hình tam giác đóng góp một dấu vết mượt mà, mờ cho các pixel lân cận (rasterization mềm) hoặc lấy mẫu rõ ràng dọc theo các cạnh để tính toán số hạng biên của tích phân kết xuất (lấy mẫu cạnh).
Tác động chiến lược
Tốc độ và tỷ lệ
Visual AI có thể tự động hóa các nhiệm vụ kiểm tra, phát hiện và gắn thẻ trên quy mô lớn.
Xây dựng lựa chọn
Các nhóm sáng tạo có thể tạo nguyên mẫu nhanh hơn với ít sửa đổi thủ công hơn.
Nhóm và quy trình làm việc
Các hoạt động có thể sử dụng tín hiệu hình ảnh và video mà trước đây khó xử lý.
Tương lai của kết xuất có thể khác biệt
Kết xuất có thể phân biệt đang trở thành mô liên kết giữa đồ họa và học sâu. Khi các trình kết xuất có thể phân biệt theo thời gian thực và các đường dẫn phân tách Gaussian trưởng thành, hãy mong đợi các vòng lặp chặt chẽ hơn để tái tạo 3D từ ảnh, thu thập vật liệu thần kinh, mô phỏng robot với vật lý có thể học được và các hệ thống đầu cuối trong đó một tổn thất duy nhất xuất phát từ hình ảnh cuối cùng cho đến các thông số cảnh. Truy tìm đường đi khác biệt để chiếu sáng toàn cầu là một lĩnh vực nghiên cứu tích cực hướng tới tính thực tiễn.
Triển khai trong thế giới thực
Tái tạo hình dạng và kết cấu của đối tượng 3D từ một số ảnh bằng cách tối ưu hóa mô hình cho đến khi kết xuất khớp với hình ảnh (kết xuất nghịch đảo).
Huấn luyện các biểu tượng NeRF và 3D Gaussian, trong đó độ dốc từ các chế độ xem được hiển thị sẽ cập nhật cách trình bày cảnh.
Ước tính các đặc tính vật liệu của đối tượng (độ nhám, độ phản xạ) bằng cách kết hợp các điểm nổi bật được hiển thị với ảnh thật.
Hiệu chỉnh máy ảnh và tư thế trong robot, khớp mô hình 3D đã biết với hình ảnh máy ảnh để khôi phục vị trí của nó.
Rủi ro & lan can
Quyền và sự đồng ý về hình ảnh có thể trở thành rủi ro pháp lý nếu nguồn gốc xuất xứ không rõ ràng.
Hiệu suất của mô hình có thể khác nhau tùy theo ánh sáng, nhân khẩu học và môi trường.
Kết quả dương tính giả có thể không được chú ý trừ khi ngưỡng tin cậy được theo dõi.
Lộ trình thực hiện
Xác định tiêu chí chấp nhận về độ chính xác, thu hồi và chi phí lỗi.
Kiểm tra với dữ liệu phù hợp với điều kiện sản xuất thực tế.
Thêm đánh giá của con người đối với những dự đoán có độ tin cậy thấp hoặc tác động cao.
Theo dõi sự trôi dạt của mô hình và xác nhận lại sau khi thay đổi máy ảnh hoặc tập dữ liệu.
Tiếp tục khám phá
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Differentiable Rendering quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Hướng dẫn tiếp theo
Tổng hợp âm thanh có thể phân biệt DDSP
Câu hỏi thường gặp
What is Differentiable Rendering?
Kết xuất có thể phân biệt làm cho quá trình biến cảnh 3D thành hình ảnh 2D có thể phân biệt hoàn toàn, do đó bạn có thể tính toán độ dốc từ các pixel được kết xuất trở lại thông số cảnh. Điều này cho phép bạn tối ưu hóa hình học, vật liệu, ánh sáng và máy ảnh bằng cách sử dụng tính năng giảm độ dốc.
Kết xuất vi phân cho phép bạn tính toán những gì?
Bằng cách làm cho kết xuất có thể phân biệt được, bạn có được độ chuyển màu chuyển từ pixel trở lại đầu vào của cảnh, cho phép tối ưu hóa dựa trên độ dốc.
Tại sao hình bóng của đối tượng lại là một khó khăn cốt lõi trong việc hiển thị có thể phân biệt được?
Ở một hình bóng, một pixel tách ra giữa nền trước và nền sau, do đó đạo hàm cơ bản bằng 0 hoặc không xác định và không mang thông tin hình dạng.
Rasterization mềm giải quyết vấn đề gián đoạn như thế nào?
Rasterization mềm (ví dụ: SoftRas) làm mềm vùng phủ sóng để mỗi hình tam giác ảnh hưởng trơn tru đến các pixel xung quanh, tạo ra độ chuyển màu có thể sử dụng được.
'Kết xuất ngược' là gì?
Kết xuất nghịch đảo sử dụng kết xuất có thể phân biệt để tối ưu hóa các tham số cảnh cho đến khi hình ảnh tổng hợp khớp với ảnh được quan sát.
Kỹ thuật hiện đại nào dựa vào kết xuất có thể phân biệt để đào tạo?
Cả NeRF và phân tán Gaussian 3D đều được tối ưu hóa bằng cách truyền ngược sự mất không gian hình ảnh thông qua một trình kết xuất có thể phân biệt được.