ガイド連動クイズ · 中 レベル

プロンプトチューニングクイズ

入力層のソフト プロンプト、フリーズ モデルのセットアップ、プロンプト チューニング用に報告されたスケール依存の結果を確認します。

関連するガイドパス即時チューニング
質問 1 の 8

プロンプト チューニングの「ソフト プロンプト」とは何ですか?

すべての質問をプレビューする8 質問

クイズに答えると、答えと解説が表示されます。

  1. プロンプト チューニングの「ソフト プロンプト」とは何ですか?
    • 実際の単語にマッピングする必要のない学習された連続埋め込みベクトル
    • 丁寧な言葉遣いのテキスト指導
    • モデルの小さい部分を抽出したコピー
    • 凍結された出力ロジットのセット
  2. プロンプトチューニングでは、トレーニング可能なベクトルがどこに追加されるのでしょうか?
    • すべての変圧器層で
    • 入力埋め込み層のみ
    • 出力層のみ
    • オプティマイザ状態の内部
  3. 元の論文ではモデルのスケールに関してどのような驚くべき効果が強調されていましたか?
    • モデルが大きくなるにつれて、迅速なチューニングが難しくなる
    • スケールはプロンプトチューニングには影響しません
    • モデルが大きくなるにつれて、迅速なチューニングが完全な微調整品質に近づきます
    • 大型モデルは即時調整できなくなりました
  4. プロンプトチューニングを導入したのは誰ですか?
    • 2016 年のディープマインド
    • Anthropic (2023 年)
    • Microsoft (2019 年)
    • 2021 年の Google (Lester、Al-Rfou、Constant) の研究者
  5. プロンプト チューニングを行うと、どのようにして 1 つのモデルから多くのタスクを処理できるようになるのでしょうか?
    • 各タスクは、モデルがフリーズしたままである間、独自の小さなソフト プロンプトを使用します。
    • リクエストごとにモデル全体を再トレーニングします
    • 未使用のタスクを重みから削除します
    • タスクごとに別の GPU が必要です
  6. How does Lester and colleagues’ paper describe prompt tuning in relation to prefix tuning?
    • As a replacement for frozen language models
    • As a simpler related method that the paper compares with prefix tuning
    • As a tokenizer with no trainable parameters
    • As a method that updates every model weight
  7. Which model family did Lester and colleagues use to study prompt tuning across scales?
    • ウェーブネット
    • AlphaFold2
    • T5
    • 孤立の森
  8. How are soft prompts optimized in prompt tuning?
    • By changing all model weights for each task
    • By replacing embeddings with hard-coded words only
    • By training a new tokenizer for every example
    • By backpropagation through a frozen language model to update the prompt vectors