概述
自監督學習透過發明一個任務來訓練未標記資料的模型，該任務的答案隱藏在資料本身中。這就是現代語言和視覺基礎模型如何從原始互聯網中學習，而無需大量人工標記者。
自我監督學習位於核心人工智慧工具包。當你理解它時，其他人工智慧主題就變得更容易評估和比較。
深入探討
手動標記資料既緩慢又昂貴，但世界上充滿了未標記的文字、圖像、音訊和視訊。自我監督學習透過創建「藉口任務」來解鎖它，其中數據提供自己的答案。典型的例子是 BERT 使用的屏蔽語言模型：隱藏句子中的一些單字並訓練模型根據上下文來預測它們。 GPT 風格的模型預測下一個單字。在視覺方面，SimCLR 等對比方法向模型展示同一圖像的兩個增強作物，並教導它它們屬於在一起，同時將不同的圖像分開。解決這些自製的難題迫使模型建構豐富的意義和結構的內部表示。然後，這些表示可以在很少或沒有標記資料的情況下有效地轉移到真正的下游任務。
技術洞察
訣竅是免費產生監督訊號。在屏蔽建模中，隱藏的標記是標籤，因此可以在沒有任何人工註釋的情況下計算損失。在對比學習中，一個影像的兩個增強形成一個“正對”，應該靠近嵌入空間，而其他影像則被“負”推開。無論哪種方式，模型都會在純粹從資料本身結構派生的標籤上進行最佳化，學習隨後只需要進行輕微微調的一般特徵。
掌握自我監督學習
自監督學習透過發明一個任務來訓練未標記資料的模型，該任務的答案隱藏在資料本身中。這就是現代語言和視覺基礎模型如何從原始互聯網中學習，而無需大量人工標記者。自我監督學習位於核心人工智慧工具包。當你理解它時，其他人工智慧主題就變得更容易評估和比較。為了建立深入的理解，請將自我監督學習視為操作模型，而不是單一功能：定義期望的結果，澄清假設，並將系統可以可靠地完成的任務與仍需要專家判斷的任務分開。
在實踐中，使用自我監督學習的強大團隊首先建立強大的概念模型，然後將這些模型映射到實際的生產限制。他們記錄明確的成功標準，根據實際數據和工作流程進行測試，並根據觀察到的失敗模式而不是一次性基準測試勝利進行迭代。這就是理論理解轉變為跨產品、政策和營運的持久能力的地方。
它可以幫助您將清晰的技術聲明與行銷語言分開。同時，不同的團隊可能會以不同的方式使用相同術語，因此請儘早定義範圍。最具彈性的方法是將實驗速度與治理規則結合：運行試點、捕獲證據、發布決策日誌，並隨著模型行為、使用者期望和監管要求的發展不斷更新保障措施。
戰略影響
它可以幫助您將清晰的技術聲明與行銷語言分開。
它可以幫助您將清晰的技術聲明與行銷語言分開。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
在花費金錢或時間之前，您可以提出更好的實施問題。
在花費金錢或時間之前，您可以提出更好的實施問題。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
具有共同理解的團隊可以做出更好的產品、政策和學習決策。
具有共同理解的團隊可以做出更好的產品、政策和學習決策。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
現實世界的實施
BERT 透過預測屏蔽單字來學習語言，然後針對搜尋、情緒或問題回答進行微調
SimCLR 在未標記的照片上預先訓練影像編碼器，以便稍後可以使用很少的標籤進行分類
GPT 風格的模型透過在巨大的文本語料庫中重複預測下一個標記來學習寫作
在適應轉錄之前，對原始未標記音訊進行預訓練的語音模型（預測掩蔽聲音片段）
實施模式
自我監督學習的實踐
BERT 透過預測屏蔽單字來學習語言，然後針對搜尋、情緒或問題回答進行微調。
BERT 透過預測屏蔽單字來學習語言，然後針對搜尋、情緒或問答進行微調。當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並追蹤一段時間內的生產力提升和錯誤成本時，通常會獲得更好的結果。
自我監督學習的實踐
SimCLR 在未標記的照片上預先訓練影像編碼器，以便稍後可以使用很少的標籤進行分類。
SimCLR 在未標記的照片上對影像編碼器進行預先訓練，以便稍後可以使用很少的標籤進行分類。當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並隨著時間的推移追蹤生產力增益和錯誤成本時，通常會獲得更好的結果。
自我監督學習的實踐
GPT 風格的模型透過在巨大的文本語料庫中重複預測下一個標記來學習寫作。
GPT 風格的模型透過在巨大的文本語料庫中反覆預測下一個標記來學習寫作。當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並隨著時間的推移追蹤生產力增益和錯誤成本時，通常會得到更好的結果。
自我監督學習的實踐
在適應轉錄之前，對原始未標記音訊進行預訓練的語音模型（預測掩蔽聲音片段）。
在適應轉錄之前，對原始未標記音訊（預測掩蔽聲音片段）進行預訓練的語音模型當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並隨著時間的推移跟踪生產力增益和錯誤成本時，通常會獲得更好的結果。
風險與防護欄
不同的團隊可能會以不同的方式使用相同術語，因此請儘早定義範圍。
基準測試可能看起來很強大，但實際效能卻參差不齊。
忽視數據品質和評估計劃通常會產生脆弱的結果。
實施路線圖
從您需要的結果的簡單語言定義開始。
從您需要的結果的簡單語言定義開始。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
在測試之前選擇一種成功指標和一種失敗條件。
在測試之前選擇一種成功指標和一種失敗條件。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
使用代表性資料運行小型試點，而不是完善的演示集。
使用代表性資料運行小型試點，而不是完善的演示集。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
記錄自我監督學習在哪些方面有幫助以及哪些更簡單的方法更好。
記錄自我監督學習在哪些方面有幫助以及哪些更簡單的方法更好。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。