引导式测验 · 中等 等级
提示调音测验
检查输入层的软提示、冻结模型设置以及为提示调整而报告的与比例相关的结果。
问题 1 的 8
什么是提示调音中的“软提示”？
预览每个问题8 问题
当您参加测验时，就会出现答案和解释。
- 什么是提示调音中的“软提示”？
- 学习到的连续嵌入向量不需要映射到真实单词
- 措辞礼貌的文字说明
- 模型的较小精炼副本
- 一组冻结的输出 logits
- 即时调优在哪里添加其可训练向量？
- 在每个变压器层
- 仅在输入嵌入层
- 仅在输出层
- 优化器状态内部
- 原论文强调了模型规模的哪些令人惊讶的效果？
- 随着模型的增长，即时调整变得更糟
- 音阶对提示调整没有影响
- 随着模型变得越来越大，即时调整接近完全微调质量
- 较大的模型无法再进行即时调整
- 谁引入了即时调整？
- 2016年DeepMind
- 2023 年Anthropic
- 2019 年Microsoft
- 2021 年 Google（Lester、Al-Rfou、Constant）的研究人员
- 快速调优如何能够从一个模型提供多项任务？
- 每个任务都使用自己的微小软提示，而模型保持冻结状态
- 它针对每个请求重新训练整个模型
- 它从权重中删除未使用的任务
- 每个任务需要一个单独的 GPU
- How does Lester and colleagues’ paper describe prompt tuning in relation to prefix tuning?
- As a replacement for frozen language models
- As a simpler related method that the paper compares with prefix tuning
- As a tokenizer with no trainable parameters
- As a method that updates every model weight
- Which model family did Lester and colleagues use to study prompt tuning across scales?
- 波网
- AlphaFold2
- T5
- 隔离森林
- How are soft prompts optimized in prompt tuning?
- By changing all model weights for each task
- By replacing embeddings with hard-coded words only
- By training a new tokenizer for every example
- By backpropagation through a frozen language model to update the prompt vectors