ガイド連動クイズ · 中 レベル

モデルの抽出と盗用攻撃に関するクイズ

攻撃者がクエリを通じてどのようにブラック ボックス モデルを模倣するか、API 出力で何が明らかになるか、プロバイダーが抽出をどのように検出または阻止できるかを理解します。

関連するガイドパスモデルの抽出と盗用攻撃
質問 1 の 8

モデル抽出攻撃の背後にある中心的なアイデアは何ですか?

すべての質問をプレビューする8 質問

クイズに答えると、答えと解説が表示されます。

  1. モデル抽出攻撃の背後にある中心的なアイデアは何ですか?
    • モデルをクエリし、その出力を模倣するように代替モデルをトレーニングする
    • サーバーにハッキングして重量ファイルを直接コピーする
    • 従業員に賄賂を渡してトレーニング データセットを漏洩させる
    • クラッシュしてメモリをダンプするまで API をオーバーロードする
  2. 完全な確率ベクトルを返すと、上位 1 ラベルのみを返すよりも抽出が簡単になるのはなぜですか?
    • 応答を暗号化し、攻撃者の速度を低下させます。
    • クエリごとに漏洩する情報が増えるため、必要なクエリが少なくなります
    • 決定境界を完全に隠します
    • サーバーコストが増加するため、攻撃者は諦めます
  3. クエリごとに漏洩する情報を直接的に削減する防御手法はどれですか?
    • サーバーへの GPU の追加
    • モデルのパラメータ数を増やす
    • 丸められた出力または上位 1 のみの出力を返す
    • トレーニングデータをオープンに公開する
  4. What did the 2024 production-language-model extraction paper report about GPT-3.5 Turbo?
    • It reconstructs every GPT-3.5 parameter exactly for under $20
    • It obtains the model’s training dataset directly
    • It extracts a complete model checkpoint from the API
    • It recovers the embedding-projection layer; the paper estimates under $2,000 in queries for GPT-3.5 Turbo
  5. 盗まれた代替モデルは、収益の損失だけでなく、なぜ危険なのでしょうか?
    • 敵対的な例を作成するようなオフラインのホワイトボックス攻撃を可能にします
    • 元のモデルの精度が向上します
    • 元のモデルは自動的に削除されます
    • オリジナルを再トレーニングする必要があります
  6. In ActiveThief, what does the combined DFAL + K-center query strategy aim to balance?
    • Boundary-proximate informative samples and reduced redundancy among selected samples
    • Exact recovery of all secret model weights and a guaranteed substitute
    • Random sampling only and avoiding all substitute-model predictions
    • Higher API throughput and removal of the query budget
  7. What can API rate limits do against a model-extraction attempt?
    • Prove that no substitute model can be trained
    • Remove all information from each permitted prediction
    • Make large-scale querying slower or more expensive
    • Make model outputs impossible to compare
  8. What does the DynaMarks paper propose for a model-extraction defense?
    • It adds a logo to every generated answer
    • It encrypts all model weights at rest
    • It guarantees ownership of every copied production model
    • It can embed a signature in a surrogate model by dynamically changing API outputs using secret parameters