變壓器中的感應頭
歸納頭是注意力頭，它實現了一個簡單但強大的複製規則：「我之前看到了[A][B]，現在我又看到了[A]，所以預測[B]。」它們是 Transformer 能夠透過提示中的幾個範例進行上下文學習的驚人能力背後的關鍵機制。
深入探討
透過小型變壓器的機械解釋發現，感應頭在訓練過程中的一個特徵時刻出現，該時刻與損失突然下降和情境學習的開始相一致。它們通常作為雙頭電路工作。較早層中的「前一個令牌頭」向前複製有關每個令牌的前任的資訊。然後，歸納頭使用它來執行前綴匹配：它找到當前標記的較早出現位置，查看其後面的內容，然後將下一個標記複製到預測中。這種模式完成能力可以讓模型重複序列、完成類比，並選擇完全在提示中定義的新穎格式或單字定義，而無需任何權重更新。
技術洞察
此電路由兩個跨層注意力頭組成。前一個令牌頭將「我之前的令牌是 X」寫入每個位置的剩餘流中。然後，感應頭的查詢鍵匹配 (Q-K) 將當前標記與那些移位的鍵進行匹配，以定位先前的 [A] 位置，並且其輸出值路徑 (O-V) 複製後面的標記。這是變壓器電路研究中跨層「K-組合」的具體範例。
戰略影響
速度與規模
語言工作流程可以在不犧牲一致性的情況下更快地移動。
交通與覆蓋範圍
它擴展了跨語言和溝通方式的訪問。
更明確的決策
團隊可以花更多時間進行判斷，而自動化則可以處理重複。
變壓器感應頭的未來
歸納頭是機械可解釋性的旗艦成功，該領域正在將這一想法擴展到更豐富的“上下文學習電路”，以處理抽象，而不僅僅是字面複製。預計會有更多的工作將這些頭部的突然形成與較大模型中的相變和湧現能力聯繫起來。了解此類迴路何時以及如何形成可以幫助預測能力，設計更好的課程，並建立安全工具來檢測模型何時純粹從上下文中學習意外行為。
現實世界的實施
透過從早期上下文中預測“C”來完成重複的隨機標記序列，例如“A B C ... A B”。
模型複製前面範例中示範的輸入輸出格式的少量提示。
學習提示中給出的虛構單字的含義，並在稍後的同一篇文章中正確地重複使用它。
透過匹配其標記的先前出現來忠實地回顯長引用字串或清單。
風險與防護欄
幻覺的事實可以悄悄地進入報告、支持流程或研究成果。
及時的敏感性可能會在類似的請求中產生不一致的結果。
如果存取控制薄弱，敏感文字資料可能會暴露。
實施路線圖
在推出之前定義輸出格式、語氣和品質標準。
當準確性很重要時，請使用可信任來源進行地面回應。
為高風險輸出保留人工審查檢查點。
追蹤故障模式並定期重新訓練提示或工作流程。
不斷探索
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Induction Heads in Transformers quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
常見問題
What is Induction Heads in Transformers?
歸納頭是注意力頭，它實現了一個簡單但強大的複製規則：「我之前看到了[A][B]，現在我又看到了[A]，所以預測[B]。」它們是 Transformer 能夠透過提示中的幾個範例進行上下文學習的驚人能力背後的關鍵機制。
感應頭本質上執行什麼規則？
感應頭進行前綴匹配：它們找到當前標記之前出現的位置並複製其後面的內容。
感應頭與哪種功能最密切相關？
它們的出現恰逢情境學習的開始，即在不更新權重的情況下根據提示中的範例進行適應的能力。
「前令牌頭」在感應電路中扮演什麼角色？
前一個令牌頭將「我的前任是X」寫入殘差流中，從而使感應頭能夠匹配和複製。
規範感應電路通常涉及多少個注意力頭？
經典電路是雙頭組成：前令牌頭加上執行匹配和複製的感應頭。
訓練過程中感應頭形成有什麼值得注意的地方？
感應頭出現在類似相變的時刻，與損失突然下降和情境學習的出現一致。