及时调整
提示调整通过学习预先添加到输入中的一些连续的“软提示”向量来适应冻结的语言模型，而不是用手写单词。
概述
It is one of the leanest ways to specialize a giant model, and it gets better as models get bigger.
深入探讨
提示调整由 Google 研究人员 Lester、Al-Rfou 和 Constant 于 2021 年推出，是前缀调整最简单的表亲。您无需手动制作文本提示，而是冻结整个模型并学习一个连续嵌入的小矩阵（“软提示”），仅在输入层添加。梯度下降调整这些向量以诱导任务的正确行为。一个惊人的发现：随着基础模型扩展到数十亿个参数，即时调整通过全面微调缩小了差距，最终在 SuperGLUE 等基准测试上进行匹配。每个任务只需要自己的微小软提示（通常是几千个参数），因此单个冻结模型可以同时服务于许多任务。作者将此描述为“参数高效提示调整的规模力量”。
技术洞察
软提示不是真正的单词——它们是嵌入空间中自由浮动的向量，不需要对应于词汇表中的任何标记。它们仅添加在输入嵌入层（与注入到每一层的前缀调整不同），使提示调整更加轻松。由于模型被冻结，梯度仅流回软提示嵌入。初始化、提示长度和模型规模都会强烈影响质量。
战略影响
速度与规模
语言工作流程可以在不牺牲一致性的情况下更快地移动。
交通与覆盖范围
它扩展了跨语言和沟通方式的访问。
更清晰的判决
团队可以花更多时间进行判断，而自动化则可以处理重复。
即时调优的未来
快速调整普及了这样一种想法，即您可以使用微小的学习信号来引导冻结的基础模型，并且它支撑了当今大部分 PEFT 工具包。随着模型不断扩展，差距缩小效应使得软提示对廉价的多任务部署具有吸引力。研究正在扩展这一想法，以跨任务和模型转移可学习的提示，将它们与检索相结合，并使用它们进行可控且更安全的生成。预计软提示仍将与 LoRA 和适配器一起成为低成本杠杆。
现实世界的实施
将一个冻结的 T5 模型专门用于许多 SuperGLUE 任务，为每个任务存储一个单独的软提示
在许多客户中廉价地部署单个大型模型，每个客户都有自己学习的提示
无需手动设计措辞即可引导情绪或分类行为
软提示迁移：对一项任务的提示进行预训练，以热启动相关任务的学习
风险与防护栏
幻觉的事实可以悄悄地进入报告、支持流程或研究成果。
及时的敏感性可能会在类似的请求中产生不一致的结果。
如果访问控制薄弱，敏感文本数据可能会暴露。
实施路线图
在推出之前定义输出格式、语气和质量标准。
当准确性很重要时，请使用可信来源进行地面响应。
为高风险输出保留人工审查检查点。
跟踪故障模式并定期重新训练提示或工作流程。
不断探索
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Prompt Tuning quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
常见问题
What is Prompt Tuning?
提示调整通过学习预先添加到输入中的一些连续的“软提示”向量来适应冻结的语言模型，而不是用手写单词。这是专门化巨型模型的最精简的方法之一，并且随着模型变大，它会变得更好。
什么是提示调音中的“软提示”？
软提示是嵌入空间中可训练的连续向量，而不是人类可读的单词。
即时调优在哪里添加其可训练向量？
提示调整仅在输入处添加软提示，这使得它比前缀调整更轻。
原论文强调了模型规模的哪些令人惊讶的效果？
该论文的标题强调了“规模的力量”：更大的模型让快速调整可以与完全微调相媲美。
谁引入了即时调整？
Google 的 Brian Lester、Rami Al-Rfou 和 Noah Constant 于 2021 年发表了提示调整论文。
快速调优如何能够从一个模型提供多项任务？
只有一个小的软提示是特定于任务的，因此一个冻结模型可以通过交换提示来承载许多任务。