情境學習
上下文學習是大型語言模型令人驚訝的能力，可以從提示中的幾個範例中獲得新任務，而無需任何重新訓練。
概述
It is the reason you can 'teach' a model on the fly just by showing it what you want.
深入探討
通常，向神經網路教授新任務意味著透過訓練更新其權重。上下文學習是不同的：您直接在提示（“上下文”）中編寫一些示例，模型推斷模式並將其應用到新的輸入。模型內部沒有任何變化；這些例子只是引導下一個標記的預測。您將聽到“零次”（僅說明）、“一次”（一個示例）和“幾次”（幾個示例）。這種行為在 2020 年由 GPT-3 推廣，並被證明是一種新興能力：微小的模型無法做到這一點，但超過大約 1000 億個參數的規模，幾次提示的準確性急劇上升。該模型在預訓練期間有效地學會了識別和繼續模式，因此它可以在推理時重複使用該技能。
技術洞察
可解釋性研究將這種能力很大程度上追溯到「歸納頭」——訓練過程中出現的注意力迴路，並執行模糊前綴匹配：它們回掃相似標記出現的位置，然後複製其後面的內容。因此，當您的提示顯示「蘋果 -> 水果、胡蘿蔔 -> 蔬菜」時，模型會匹配結構並預測下一個項目的正確標籤。至關重要的是，推理時沒有梯度流動，也沒有權重更新。這些範例只是重塑了提供下一個標記機率分佈的活化。
戰略影響
速度與規模
語言工作流程可以在不犧牲一致性的情況下更快地移動。
交通與覆蓋範圍
它擴展了跨語言和溝通方式的訪問。
更明確的決策
團隊可以花更多時間進行判斷，而自動化則可以處理重複。
情境学习的未来
擴大上下文視窗（現在有數十萬個標記）將上下文學習推向「多次」模式，其中數十或數百個範例可以與某些任務的微調相媲美，而無需培訓成本。期望與檢索更緊密地集成，以便自動獲取相關示例，並在上下文學習失敗或分散注意力時提供更好的理論。它將仍然是適應模型的快速、廉價的方式，補充（而不是取代）對穩定、大批量任務的微調。
現實世界的實施
為聊天機器人提供三個範例支援票證及其類別，然後讓它以相同的方式對新票證進行分類
顯示一個模型，前後兩對混亂的文本被重新格式化為乾淨的 JSON，以便它轉換其餘的文本
以您的品牌基調貼上一些範例產品描述，以便新產品與風格相匹配
逐步示範棘手的數學單字問題，以便模型使用相同的推理格式解決類似的問題
風險與防護欄
幻覺的事實可以悄悄地進入報告、支持流程或研究成果。
及時的敏感性可能會在類似的請求中產生不一致的結果。
如果存取控制薄弱，敏感文字資料可能會暴露。
實施路線圖
在推出之前定義輸出格式、語氣和品質標準。
當準確性很重要時，請使用可信任來源進行地面回應。
為高風險輸出保留人工審查檢查點。
追蹤故障模式並定期重新訓練提示或工作流程。
不斷探索
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the In-Context Learning quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
常見問題
What is In-Context Learning?
上下文學習是大型語言模型令人驚訝的能力，可以從提示中的幾個範例中獲得新任務，而無需任何重新訓練。這就是為什麼你可以透過向模型展示你想要的內容來即時「教授」模型。
在情境學習過程中模型內部發生了什麼根本變化？
情境學習完全發生在推理中。提示中的範例塑造了模型的活化和下一個標記預測，但沒有更新權重。
為什麼情境學習被描述為一種「湧現」能力？
這種能力在小型模型中很弱或不存在，而一旦模型達到非常大的規模，這種能力就會急劇上升，這就是為什麼它被稱為緊急的。
哪種內部機制與 Transformer 中的上下文學習最相關？
可解釋性工作將歸納頭（即發現相似標記出現的位置並複製接下來出現的內容的注意迴路）確定為情境學習的核心驅動力。