基礎知識指南

主動學習

主動學習是一種訓練策略,模型本身會選擇人類接下來應該標記哪些未標記的範例。

概述

主動學習是一種訓練策略,模型本身會選擇人類接下來應該標記哪些未標記的範例。這很重要,因為標記資料非常昂貴,而智慧選擇可以透過一小部分註釋達到高精度。

主動學習位於核心人工智慧工具包。當你理解它時,其他人工智慧主題就變得更容易評估和比較。

深入探討

大多數監督學習假設您已經擁有大量標記資料。主動學習翻轉了這一點:你從一個小的標記集和大量未標記的示例開始,然後反复要求人類(“預言家”)僅標記信息最豐富的示例。該模型經過訓練,用於對未標記的池進行評分,並且發送最高值的範例進行標記 - 然後重複循環。常見的選擇策略包括不確定性抽樣(選擇模型最不自信的範例)、委員會查詢(選擇整體不同意的地方)和多樣性抽樣(涵蓋資料的不同區域)。如果做得好,主動學習可以使用更少的標籤來匹配完整資料集的準確性,這就是為什麼它在醫學影像、自然語言處理以及專家註釋緩慢或昂貴的任何領域流行的原因。

技術洞察

核心思想是在付費標記每個未標記點之前估計其「價值」。不確定性取樣使用模型本身的機率 - 例如,選擇頂級類別機率最接近機會的點,或選擇前兩類之間具有最高熵或最小間隔的點。委員會詢問訓練多個模型並選擇他們最不同意的點。一個關鍵的風險是抽樣偏差:貪婪地追逐不確定性可能會忽略整個區域,因此通常會結合多樣性或批量感知方法。

掌握主動學習

主動學習是一種訓練策略,模型本身會選擇人類接下來應該標記哪些未標記的範例。這很重要,因為標記資料非常昂貴,而智慧選擇可以透過一小部分註釋達到高精度。主動學習位於核心人工智慧工具包。當你理解它時,其他人工智慧主題就變得更容易評估和比較。為了建立深入的理解,請將主動學習視為操作模型,而不是單一功能:定義期望的結果,澄清假設,並將系統可以可靠地完成的任務與仍需要專家判斷的任務分開。

在實踐中,使用主動學習的強大團隊首先建立強大的概念模型,然後將這些模型對應到實際的生產限制。他們記錄明確的成功標準,根據實際數據和工作流程進行測試,並根據觀察到的失敗模式而不是一次性基準測試勝利進行迭代。這就是理論理解轉變為跨產品、政策和營運的持久能力的地方。

它可以幫助您將清晰的技術聲明與行銷語言分開。同時,不同的團隊可能會以不同的方式使用相同術語,因此請儘早定義範圍。最具彈性的方法是將實驗速度與治理規則結合:運行試點、捕獲證據、發布決策日誌,並隨著模型行為、使用者期望和監管要求的發展不斷更新保障措施。

戰略影響

它可以幫助您將清晰的技術聲明與行銷語言分開。

它可以幫助您將清晰的技術聲明與行銷語言分開。在高品質部署中,這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式,以便團隊可以增強信心,而不是擴大模糊性。

在花費金錢或時間之前,您可以提出更好的實施問題。

在花費金錢或時間之前,您可以提出更好的實施問題。在高品質部署中,這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式,以便團隊可以增強信心,而不是擴大模糊性。

具有共同理解的團隊可以做出更好的產品、政策和學習決策。

具有共同理解的團隊可以做出更好的產品、政策和學習決策。在高品質部署中,這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式,以便團隊可以增強信心,而不是擴大模糊性。

主動學習的未來

主動學習越來越多地與大型預訓練和基礎模型相結合,其目標從標記所有內容轉變為對一些高價值範例進行廉價的微調。預計與弱監督、自監督預訓練和人機循環工具的更緊密整合,為審閱者提供標籤以供確認而不是創建。由於標籤成本在許多實際部署中占主導地位,因此自動選擇加上高效的註釋介面仍將是在醫學和法律等資料稀缺的專業領域中建立模型的核心。

現實世界的實施

放射學團隊透過讓模型標記最模糊的掃描供放射專家進行標記來訓練腫瘤檢測器,從而大大減少註釋時間。

垃圾郵件或內容審核系統會顯示人類審查者最不確定的邊界訊息,在硬邊界情況下改進得最快。

語音辨識公司選擇其模型最不確定的音訊剪輯(口音、噪音)來發送轉錄,而不是標記隨機剪輯。

電子商務目錄使用委員會查詢來挑選多個分類器不同意的產品圖像,並優先考慮它們以進行手動類別標記。

實施模式

實踐中的主動學習

放射學團隊透過讓模型標記最模糊的掃描供放射專家進行標記來訓練腫瘤檢測器,從而大大減少註釋時間。

放射學團隊透過讓模型標記最模糊的掃描以供放射專家進行標記來訓練腫瘤檢測器,從而大幅縮短註釋時間。當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並追蹤隨著時間的推移提高的生產力和錯誤成本時,通常會獲得更好的結果。

實踐中的主動學習

垃圾郵件或內容審核系統會顯示人類審查者最不確定的邊界訊息,在硬邊界情況下改進得最快。

垃圾郵件或內容審核系統會顯示人類審查者最不確定的邊界訊息,在硬邊緣情況下以最快的速度改進。當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並隨著時間的推移追蹤生產力增益和錯誤成本時,通常會得到更好的結果。

實踐中的主動學習

語音辨識公司選擇其模型最不確定的音訊剪輯(口音、噪音)來發送轉錄,而不是標記隨機剪輯。

語音辨識公司選擇其模型最不確定的音訊剪輯(口音、噪音)來發送轉錄,而不是標記隨機剪輯。當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並隨著時間的推移追蹤生產力增益和錯誤成本時,通常會得到更好的結果。

實踐中的主動學習

電子商務目錄使用委員會查詢來挑選多個分類器不同意的產品圖像,並優先考慮它們以進行手動類別標記。

電子商務目錄使用委員會查詢來挑選多個分類器不同意的產品圖像,並優先考慮手動類別標記。當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並隨著時間的推移追蹤生產力增益和錯誤成本時,通常會得到更好的結果。

風險與防護欄

!

不同的團隊可能會以不同的方式使用相同術語,因此請儘早定義範圍。

!

基準測試可能看起來很強大,但實際效能卻參差不齊。

!

忽視數據品質和評估計劃通常會產生脆弱的結果。

實施路線圖

1

從您需要的結果的簡單語言定義開始。

從您需要的結果的簡單語言定義開始。將每個步驟視為證據門:如果不符合標準,則暫停推出,縮小差距,然後再擴大使用。

2

在測試之前選擇一種成功指標和一種失敗條件。

在測試之前選擇一種成功指標和一種失敗條件。將每個步驟視為證據門:如果不符合標準,則暫停推出,縮小差距,然後再擴大使用。

3

使用代表性資料運行小型試點,而不是完善的演示集。

使用代表性資料運行小型試點,而不是完善的演示集。將每個步驟視為證據門:如果不符合標準,則暫停推出,縮小差距,然後再擴大使用。

4

記錄主動學習在哪些方面有幫助以及在哪些方面更簡單的方法更好。

記錄主動學習在哪些方面有幫助以及在哪些方面更簡單的方法更好。將每個步驟視為證據門:如果不符合標準,則暫停推出,縮小差距,然後再擴大使用。

不斷探索