概述
測試時間增強 (TTA) 對同一輸入的多個變更版本運行經過訓練的模型，並對預測進行平均。這是一個簡單的、無需訓練的技巧，通常會擠出一些額外的準確度並使預測更加穩健。
測試時間增強是一個技術構建塊，會大規模影響模型品質、基礎設施成本、延遲和可靠性。
深入探討
測試時增強採用單一輸入，建立多個轉換副本（翻轉、裁剪、旋轉、顏色偏移或縮放版本），透過相同的固定模型運行每個副本，然後組合輸出 - 通常透過平均機率或邏輯。直覺：每次增強都會將模型暴露在略有不同的視圖中，並且各個視圖上的錯誤在合併時往往會被消除，就像從一個網絡構建的一個小型整體一樣。至關重要的是，TTA 不需要再培訓，也不需要額外的標籤；它只會在推理時花費更多的計算量，因為模型每個樣本運行 N 次。它在電腦視覺（尤其是 Kaggle 競賽和醫學成像）中最受歡迎，但也出現在音訊和文字中。增強應該保留標籤－翻轉胸部X光片沒問題，但將數字「6」翻轉成「9」則不行。
技術洞察
如果模型在增強視圖中的預測誤差部分不相關，則平均可以像整合一樣減少方差，但使用一組權重。對於分類，您通常會平均視圖上的 softmax 機率（或 logits）；對於分割，您必須在池化之前反轉每個幾何變換，以便像素圖重新對齊。選擇保留標籤的增強很重要：改變真實類別的轉換會注入偏差，而不是消除雜訊。
掌握測試時間增強
測試時間增強 (TTA) 對同一輸入的多個變更版本運行經過訓練的模型，並對預測進行平均。這是一個簡單的、無需訓練的技巧，通常會擠出一些額外的準確度並使預測更加穩健。測試時間增強是一個技術構建塊，會大規模影響模型品質、基礎設施成本、延遲和可靠性。為了建立深入的理解，請將測試時間增強視為一種操作模型，而不是單一功能：定義期望的結果，澄清假設，並將系統可以可靠地完成的任務與仍需要專家判斷的任務分開。
在實踐中，強大的團隊使用測試時間增強來根據可靠性和成本優化架構、資料和基礎設施選擇。他們記錄明確的成功標準，根據實際數據和工作流程進行測試，並根據觀察到的失敗模式而不是一次性基準測試勝利進行迭代。這就是理論理解轉變為跨產品、政策和營運的持久能力的地方。
多年來，架構決策決定著效能和營運成本。同時，優化一個基準測試可以隱藏更廣泛的系統弱點。最具彈性的方法是將實驗速度與治理規則結合：運行試點、捕獲證據、發布決策日誌，並隨著模型行為、使用者期望和監管要求的發展不斷更新保障措施。
戰略影響
多年來，架構決策決定著效能和營運成本。
多年來，架構決策決定著效能和營運成本。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
技術教育幫助團隊選擇正確的堆疊，而不僅僅是最新的堆疊。
技術教育幫助團隊選擇正確的堆疊，而不僅僅是最新的堆疊。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
更好的工程選擇可以減少生產中的可靠性事故。
更好的工程選擇可以減少生產中的可靠性事故。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
現實世界的實施
對影像的水平翻轉和多次裁剪進行平均預測，以提高推理時的 ImageNet 分類準確性。
在醫學影像分割（例如腫瘤或器官邊界）中反轉旋轉/翻轉和平均光罩以獲得更穩定的輪廓。
Kaggle 參賽者應用十種作物或多尺度 TTA，無需重新培訓即可在排行榜上獲得一小部分的份額。
在稍微時移或音高擾動的剪輯上運行語音或音訊分類器，並彙集輸出以獲得更穩定的標籤。
實施模式
實踐中測試時間的增加
對影像的水平翻轉和多次裁剪進行平均預測，以提高推理時的 ImageNet 分類準確性。
對影像的水平翻轉和多次裁剪進行平均預測，以提高推理時的 ImageNet 分類準確性 當團隊在預先定義品質閾值、為邊緣情況保留人工升級路徑並隨著時間的推移跟踪生產力增益和錯誤成本時，通常會獲得更好的結果。
實踐中測試時間的增加
在醫學影像分割（例如腫瘤或器官邊界）中反轉旋轉/翻轉和平均光罩以獲得更穩定的輪廓。
在醫學影像分割（例如腫瘤或器官邊界）中反轉旋轉/翻轉和平均掩模以獲得更穩定的輪廓當團隊預先定義質量閾值、為邊緣情況保留人工升級路徑並隨著時間的推移跟踪生產力增益和錯誤成本時，通常會獲得更好的結果。
實踐中測試時間的增加
Kaggle 參賽者應用十種作物或多尺度 TTA，無需重新培訓即可在排行榜上獲得一小部分的份額。
Kaggle 競爭對手應用十種作物或多尺度 TTA 在排行榜上獲得了一小部分，而無需重新培訓。當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並隨著時間的推移追蹤生產力增益和錯誤成本時，通常會獲得更好的結果。
實踐中測試時間的增加
在稍微時移或音高擾動的剪輯上運行語音或音訊分類器，並彙集輸出以獲得更穩定的標籤。
在稍微時移或音高擾動的剪輯上運行語音或音頻分類器，並彙集輸出以獲得更穩定的標籤當團隊預先定義質量閾值、為邊緣情況保留人工升級路徑並跟踪隨著時間的推移提高的生產力和錯誤成本時，通常會得到更好的結果。
風險與防護欄
優化一項基準測試可以隱藏更廣泛的系統弱點。
基礎設施和維護成本常常被低估。
隨著系統變得更加複雜，安全性和可觀察性差距可能會擴大。
實施路線圖
在實施之前定義延遲、品質和成本目標。
在實施之前定義延遲、品質和成本目標。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
在實際負載和資料條件下進行基準測試。
在實際負載和資料條件下進行基準測試。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
儀器監控錯誤、漂移和使用者影響。
儀器監控錯誤、漂移和使用者影響。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
在擴展之前準備回滾和事件回應路徑。
在擴展之前準備回滾和事件回應路徑。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。