Útmutatóhoz kapcsolódó kvíz · Közepes Szint

Ellenséges példák és robusztussági kvíz

Test your understanding of adversarial examples, attacker knowledge, threat models, training defenses, and scoped robustness evaluations.

Kapcsolódó útmutató utakEllenséges példák és robusztusság
kérdés 1 -ból 8

Under a specified threat model, what is an adversarial example?

Tekintse meg az összes kérdést8 kérdéseket

A válaszok és magyarázatok megjelennek a kvíz kitöltésekor.

  1. Under a specified threat model, what is an adversarial example?
    • An input crafted to cause a model error using changes allowed by that threat model
    • Any ordinary prediction error on unmodified input
    • An input that must contain tiny, imperceptible pixel changes
    • A model update that improves accuracy on every distribution
  2. Mi különbözteti meg a „fehér dobozos” támadást a „fekete dobozos” támadástól?
    • A fehérdobozos támadások csak fehér képeken működnek
    • A fehér mezőben a támadó hozzáfér a modell belső elemeihez/gradienseihez; fekete dobozban, csak kimenetek
    • A black-box támadások mindig gyorsabbak
    • A fehérdobozos támadások nem igényelnek számítást
  3. Az FGSM (Fast Gradient Sign Method) egy ellentétes példát hoz létre a...
    • Véletlenszerűen keverednek a pixelek
    • A modell újraképzése a semmiből
    • Lépés a veszteség gradiens előjele irányába a bemenethez képest
    • A kép kivágása
  4. What is adversarial training commonly used for?
    • Guaranteeing robustness to every possible attack
    • Proving a classifier is fair
    • Eliminating all clean-data errors
    • Improving robustness against the adversarial threat model represented during training
  5. Miért aggaszt a kontradiktórius példák „átruházhatósága”?
    • Az egyik modellre kidolgozott támadás gyakran megtéveszt más modelleket, lehetővé téve a fekete doboz támadásait
    • Lassabbá teszi a modellek edzését
    • Növeli a tárolási költségeket
    • Csak az audio modelleket érinti
  6. How are prompt-injection attacks related to image adversarial examples?
    • They are identical bounded pixel perturbations
    • Both exploit model vulnerabilities, but prompt injection has a distinct instruction and system threat model
    • Prompt injection requires changing model weights
    • Image adversarial examples only affect text prompts
  7. Why must an adversarial-robustness report specify the perturbation norm and budget?
    • They determine the model’s number of parameters
    • They guarantee transfer to every attack
    • They define which input changes the reported robustness claim covers
    • They replace the need to state an attacker’s access
  8. Which pair of measures helps distinguish clean performance from performance under a specified attack?
    • Training-set size and GPU memory
    • Tokenization rate and context length
    • Model file size and parameter dtype
    • Clean accuracy and robust accuracy under the stated attack setting