概述
它解決了導致一級物體偵測器癱瘓的背景與物體的極端不平衡問題。
深入探討
在目標偵測中,影像可能只包含幾個真實目標,但包含數以萬計的候選位置,幾乎所有這些都是簡單的背景。使用標準交叉熵,大量簡單的負值在梯度中占主導地位,並淹沒了罕見的正值。 Lin 和 Facebook AI 的同事在 2017 年的 RetinaNet 論文中引入了焦點損失,它透過將交叉熵乘以一個因子 (1 - p_t)^gamma 來解決這個問題。當樣本被自信且正確地分類時,p_t 接近 1,因此因子縮小到零,分類良好的範例幾乎沒有貢獻。困難的、錯誤分類的例子幾乎佔據了全部權重。在 gamma 約為 2 的情況下,RetinaNet 可以匹配或擊敗 Faster R-CNN 等速度較慢的兩級偵測器,同時保持簡單的單通道網路。
現實世界的實施
在大多數像素為背景的自動駕駛影格中偵測小路標或遠處的行人。
在醫學掃描中發現以健康組織為主的罕見腫瘤或病變。
在生產線上發現缺陷,其中絕大多數被檢查的零件都是正常的。
辨識大型衛星和航空影像中的小型船隻或車輛。
不平衡檢測的焦點損失的未來
焦點損失已成為 RetinaNet 以外的預設成分,出現在 FCOS 等偵測器、分割和長尾分類中。質量焦點損失、分佈焦點損失和變焦損失等變體針對現代無錨和基於變壓器的偵測器進行了改進。隨著偵測轉向使用二分匹配的 DETR 等集合預測模型,在類別頻率嚴重傾斜的情況下,焦點式重新加權仍然是實用的工具。
付諸實踐
為什麼這很重要
- 成本與預算. 多年來,架構決策決定著效能和營運成本。
- 更明確的決策. 技術教育幫助團隊選擇正確的堆疊,而不僅僅是最新的堆疊。
- 品質管控. 更好的工程選擇可以減少生產中的可靠性事故。
留意
- 優化一項基準測試可以隱藏更廣泛的系統弱點。
- 基礎設施和維護成本常常被低估。
- 隨著系統變得更加複雜,安全性和可觀察性差距可能會擴大。
後續步驟
- 在實施之前定義延遲、品質和成本目標。
- 在實際負載和資料條件下進行基準測試。
- 儀器監控錯誤、漂移和使用者影響。
- 在擴展之前準備回滾和事件回應路徑。
不斷探索
常見問題
什麼是不平衡偵測的焦點損失?
焦點損失是一種修改後的損失函數,可以降低簡單範例的權重,以便檢測器可以專注於困難的、罕見的範例。它解決了導致一級物體偵測器癱瘓的背景與物體的極端不平衡問題。
焦點損失旨在解決單階段目標偵測中的哪些核心問題?
在密集檢測中,簡單的背景範例遠遠超過真實對象,並主導標準交叉熵梯度。焦點損失重新加權如此罕見,困難的例子更重要。
焦點損失乘以交叉熵的調節因子是什麼?
焦點損失為 -(1 - p_t)^gamma * log(p_t)。 (1 - p_t)^gamma 項收縮為零,以確保預測正確。
當聚焦參數gamma設定為0時,焦點損失會發生什麼?
當 gamma = 0 時,因數 (1 - p_t)^0 等於 1,因此焦點損失精確地減少到標準交叉熵。
增加伽瑪對於簡單、分類良好的範例有何作用?
較高的 gamma 使得 (1 - p_t)^gamma 項對於高 p_t 收縮得更快,因此簡單的例子對損失和梯度的貢獻甚至更小。
哪一種探測器架構引入了焦損?
2017 年 RetinaNet 論文中引入了焦點損失,使單級偵測器能夠與精確的兩級方法相媲美。