及時調整
提示調整透過學習預先添加到輸入中的一些連續的「軟提示」向量來適應凍結的語言模型，而不是用手寫單字。
概述
It is one of the leanest ways to specialize a giant model, and it gets better as models get bigger.
深入探討
提示調整由 Google 研究者 Lester、Al-Rfou 和 Constant 於 2021 年推出，是前綴調整最簡單的表親。您無需手動製作文字提示，而是凍結整個模型並學習一個連續嵌入的小矩陣（「軟提示」），僅在輸入層中新增。梯度下降調整這些向量以誘導任務的正確行為。一個驚人的發現：隨著基礎模型擴展到數十億個參數，即時調整透過全面微調縮小了差距，最終在 SuperGLUE 等基準測試上進行匹配。每個任務只需要自己的微小軟提示（通常是數千個參數），因此單一凍結模型可以同時服務許多任務。作者將此描述為「參數高效提示調整的規模力量」。
技術洞察
軟提示不是真正的單字——它們是嵌入空間中自由浮動的向量，不需要對應於詞彙表中的任何標記。它們僅添加在輸入嵌入層（與注入到每一層的前綴調整不同），使提示調整更加輕鬆。由於模型被凍結，梯度僅流回軟提示嵌入。初始化、提示長度和模型規模都會強烈影響品質。
戰略影響
速度與規模
語言工作流程可以在不犧牲一致性的情況下更快地移動。
交通與覆蓋範圍
它擴展了跨語言和溝通方式的訪問。
更明確的決策
團隊可以花更多時間進行判斷，而自動化則可以處理重複。
即時調優的未來
快速調整普及了這樣一種想法，即您可以使用微小的學習訊號來引導凍結的基礎模型，並且它支撐了當今大部分 PEFT 工具包。隨著模型不斷擴展，差距縮小效應使得軟提示對廉價的多任務部署具有吸引力。研究正在擴展這一想法，以跨任務和模型轉移可學習的提示，將它們與檢索相結合，並使用它們進行可控且更安全的生成。預計軟提示仍將與 LoRA 和適配器一起成為低成本槓桿。
現實世界的實施
將一個凍結的 T5 模型專門用於許多 SuperGLUE 任務，為每個任務儲存一個單獨的軟提示
在許多客戶中廉價地部署單一大型模型，每個客戶都有自己學習的提示
無需手動設計措辭即可引導情緒或分類行為
軟提示遷移：對一項任務的提示進行預訓練，以熱啟動相關任務的學習
風險與防護欄
幻覺的事實可以悄悄地進入報告、支持流程或研究成果。
及時的敏感性可能會在類似的請求中產生不一致的結果。
如果存取控制薄弱，敏感文字資料可能會暴露。
實施路線圖
在推出之前定義輸出格式、語氣和品質標準。
當準確性很重要時，請使用可信任來源進行地面回應。
為高風險輸出保留人工審查檢查點。
追蹤故障模式並定期重新訓練提示或工作流程。
不斷探索
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Prompt Tuning quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
常見問題
What is Prompt Tuning?
提示調整透過學習預先添加到輸入中的一些連續的「軟提示」向量來適應凍結的語言模型，而不是用手寫單字。這是專門化巨型模型的最精簡的方法之一，隨著模型變大，它會變得更好。
什麼是提示調音中的「軟提示」？
軟提示是嵌入空間中可訓練的連續向量，而不是人類可讀的單字。
即時調優在哪裡添加其可訓練向量？
提示調整僅在輸入處添加軟提示，這使得它比前綴調整更輕。
原論文強調了模型規模的哪些令人驚訝的效果？
論文的標題強調了「規模的力量」：更大的模型讓快速調整可以與完全微調相提並論。
誰引入了即時調整？
Google 的 Brian Lester、Rami Al-Rfou 和 Noah Constant 於 2021 年發表了提示調整論文。
快速調優如何能夠從一個模型提供多項任務？
只有一個小的軟提示是特定於任務的，因此一個凍結模型可以透過交換提示來承載許多任務。