不平衡偵測的焦點損失
焦點損失是一種修改後的損失函數,可以降低簡單範例的權重,以便檢測器可以專注於困難的、罕見的範例。
概述
It solved the extreme background-versus-object imbalance that crippled one-stage object detectors.
深入探討
在目標偵測中,影像可能只包含幾個真實目標,但包含數以萬計的候選位置,幾乎所有這些都是簡單的背景。使用標準交叉熵,大量簡單的負值在梯度中占主導地位,並淹沒了罕見的正值。 Lin 和 Facebook AI 的同事在 2017 年的 RetinaNet 論文中引入了焦點損失,它透過將交叉熵乘以一個因子 (1 - p_t)^gamma 來解決這個問題。當樣本被自信且正確地分類時,p_t 接近 1,因此因子縮小到零,分類良好的範例幾乎沒有貢獻。困難的、錯誤分類的例子幾乎佔據了全部權重。在 gamma 約為 2 的情況下,RetinaNet 可以匹配或擊敗 Faster R-CNN 等速度較慢的兩級偵測器,同時保持簡單的單通道網路。
技術洞察
聚焦參數 gamma 控制簡單範例被抑制的程度:gamma 0 時焦點損失等於普通交叉熵,較高的 gamma 會銳化對困難情況的關注。平衡權重 alpha(對於稀有類別通常為 0.25)通常與其結合使用。至關重要的是,調製因子重塑梯度,而不僅僅是損失值,因此反向傳播自然會強調模糊樣本,而無需手動進行硬示例挖掘或重採樣。
戰略影響
成本與預算
多年來,架構決策決定著效能和營運成本。
更明確的決策
技術教育幫助團隊選擇正確的堆疊,而不僅僅是最新的堆疊。
品質管控
更好的工程選擇可以減少生產中的可靠性事故。
不平衡檢測的焦點損失的未來
焦點損失已成為 RetinaNet 以外的預設成分,出現在 FCOS 等偵測器、分割和長尾分類中。質量焦點損失、分佈焦點損失和變焦損失等變體針對現代無錨和基於變壓器的偵測器進行了改進。隨著偵測轉向使用二分匹配的 DETR 等集合預測模型,在類別頻率嚴重傾斜的情況下,焦點式重新加權仍然是實用的工具。
現實世界的實施
在大多數像素為背景的自動駕駛影格中偵測小路標或遠處的行人。
在醫學掃描中發現以健康組織為主的罕見腫瘤或病變。
在生產線上發現缺陷,其中絕大多數被檢查的零件都是正常的。
辨識大型衛星和航空影像中的小型船隻或車輛。
風險與防護欄
優化一項基準測試可以隱藏更廣泛的系統弱點。
基礎設施和維護成本常常被低估。
隨著系統變得更加複雜,安全性和可觀察性差距可能會擴大。
實施路線圖
在實施之前定義延遲、品質和成本目標。
在實際負載和資料條件下進行基準測試。
儀器監控錯誤、漂移和使用者影響。
在擴展之前準備回滾和事件回應路徑。
不斷探索
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Focal Loss for Imbalanced Detection quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
常見問題
What is Focal Loss for Imbalanced Detection?
焦點損失是一種修改後的損失函數,可以降低簡單範例的權重,以便檢測器可以專注於困難的、罕見的範例。它解決了導致一級物體偵測器癱瘓的背景與物體的極端不平衡問題。
焦點損失旨在解決單階段目標偵測中的哪些核心問題?
在密集檢測中,簡單的背景範例遠遠超過真實對象,並主導標準交叉熵梯度。焦點損失重新加權如此罕見,困難的例子更重要。
焦點損失乘以交叉熵的調節因子是什麼?
焦點損失為 -(1 - p_t)^gamma * log(p_t)。 (1 - p_t)^gamma 項收縮為零,以確保預測正確。
當聚焦參數gamma設定為0時,焦點損失會發生什麼?
當 gamma = 0 時,因數 (1 - p_t)^0 等於 1,因此焦點損失精確地減少到標準交叉熵。
增加伽瑪對於簡單、分類良好的範例有何作用?
較高的 gamma 使得 (1 - p_t)^gamma 項對於高 p_t 收縮得更快,因此簡單的例子對損失和梯度的貢獻甚至更小。
哪一種探測器架構引入了焦損?
2017 年 RetinaNet 論文中引入了焦點損失,使單級偵測器能夠與精確的兩級方法相媲美。