敵対的な例と堅牢性に関するクイズ

クイズに答えると、答えと解説が表示されます。

1. 特定の脅威モデルの下で、対立的サンプルとは何ですか？
   • An input crafted to cause a model error using changes allowed by that threat model
   • Any ordinary prediction error on unmodified input
   • An input that must contain tiny, imperceptible pixel changes
   • A model update that improves accuracy on every distribution
2. 「ホワイトボックス」攻撃と「ブラックボックス」攻撃の違いは何ですか?
   • ホワイトボックス攻撃は白い画像に対してのみ機能します
   • ホワイトボックスでは、攻撃者はモデルの内部/勾配にアクセスできます。ブラックボックス内、出力のみ
   • ブラックボックス攻撃は常に高速です
   • ホワイトボックス攻撃は計算を必要としません
3. FGSM (高速勾配符号法) は、次のようにして敵対的な例を作成します。
   • ピクセルをランダムにシャッフルする
   • モデルを最初から再トレーニングする
   • 入力に対する損失勾配の符号の方向にステップを踏みます。
   • 画像のトリミング
4. 対立的学習は主に何に使われますか？
   • Guaranteeing robustness to every possible attack
   • Proving a classifier is fair
   • Eliminating all clean-data errors
   • Improving robustness against the adversarial threat model represented during training
5. なぜ敵対的な例の「譲渡可能性」が問題となるのでしょうか?
   • あるモデルに対して作成された攻撃は他のモデルを騙すことが多く、ブラックボックス攻撃が可能になります。
   • モデルのトレーニングが遅くなります
   • ストレージコストが増加する
   • オーディオモデルのみに影響します
6. プロンプトインジェクション攻撃は画像の対立的サンプルとどのように関連していますか？
   • They are identical bounded pixel perturbations
   • Both exploit model vulnerabilities, but prompt injection has a distinct instruction and system threat model
   • Prompt injection requires changing model weights
   • Image adversarial examples only affect text prompts
7. Why must an adversarial-robustness report specify the perturbation norm and budget?
   • They determine the model’s number of parameters
   • They guarantee transfer to every attack
   • They define which input changes the reported robustness claim covers
   • They replace the need to state an attacker’s access
8. Which pair of measures helps distinguish clean performance from performance under a specified attack?
   • Training-set size and GPU memory
   • Tokenization rate and context length
   • Model file size and parameter dtype
   • Clean accuracy and robust accuracy under the stated attack setting