概述
它使強大的通用深度感測變得廉價且適用於從手機到機器人的任何事物。
深入探討
DepthAnything(2024,由 TikTok/ByteDance 和 HKU 等研究人員發布)解決單眼深度估計問題:根據一張 RGB 影像預測深度圖。它的突破在於規模:該團隊不再僅僅依賴有限的可用標記深度數據,而是構建了一個引擎,使用教師模型自動標記大約 6200 萬張未標記照片,然後在這個龐大的語料庫上訓練學生。這在室內、室外和不尋常的場景中提供了強大的零樣本概括。原始輸出相對深度(像素更近或更遠,而不是精確的米)。 DepthAnything V2(2024 年中)透過對教師進行具有完美地面實況的合成數據培訓,然後提取真實圖像、修復模糊邊緣和透明物件錯誤,銳化了精細細節。
現實世界的實施
產生深度圖以在單鏡頭智慧型手機人像照片中驅動逼真的背景模糊(散景)。
為缺乏 LiDAR 或立體攝影機的低成本無人機和機器人提供 3D 障礙物感知。
為 ControlNet 建立深度調節圖,以便影像產生器保留場景幾何。
將 2D 照片和影片轉換為 3D 或視差效果,用於 VR 和立體顯示。
DepthAnything 單眼深度的未來
預計會更緊密地整合到 AR 眼鏡、智慧型手機相機和機器人中,而專用 LiDAR 成本太高或體積太大。輸出真實米的公制變體,加上具有時間穩定深度(幀之間無閃爍)的視訊模型,正在快速發展。隨著這些模型縮小到在設備上即時運行,單鏡頭 3D 感知將成為預設功能,為空間計算、自主導航和生成 3D 場景重建提供支援。
付諸實踐
為什麼這很重要
- 速度與規模. 視覺人工智慧可以大規模自動化檢查、檢測和標記任務。
- 配裝選擇. 創意團隊可以透過更少的手動修改來更快地建立概念原型。
- 團隊與工作流程. 操作可以使用以前難以處理的影像和視訊訊號。
留意
- 如果出處不明,肖像權和同意可能會成為法律風險。
- 模型表現可能因光照、人口統計和環境的不同而有所不同。
- 除非監控置信閾值,否則誤報可能會被忽略。
後續步驟
- 定義精確度、召回率和錯誤成本的接受標準。
- 使用符合實際生產條件的數據進行測試。
- 為低置信度或高影響力的預測添加人工審核。
- 追蹤模型漂移並在相機或資料集變更後重新驗證。
不斷探索
常見問題
什麼是 DepthAnything 單眼深度?
DepthAnything 是一個基礎模型,無需特殊硬體即可估計每個像素與單張普通照片的距離。它使強大的通用深度感測變得廉價且適用於從手機到機器人的任何事物。
「單目」深度估計是什麼意思?
單目意味著深度是從一個(單)相機影像推斷出來的,沒有立體對或主動感測器。
DepthAnything 實現強泛化的主要策略是什麼?
該團隊建立了一個資料引擎,對數千萬張未標記的照片進行了偽標記,大大擴大了訓練規模。
DepthAnything 是基於什麼主幹編碼器建構?
DepthAnything 使用 DINOv2 ViT 編碼器與 DPT 式密集預測頭配對。
原來的DepthAnything主要輸出什麼樣的深度?
基本模型預測相對深度排序而不是絕對度量距離。
DepthAnything V2 如何改善精細細節和邊緣?
V2 對老師進行了具有精確深度的合成影像的培訓,然後將其提取為真實照片以獲得更清晰的邊界。