Kvíz spojený s průvodcem · Střední úroveň

Příklady protivníka a kvíz o robustnosti

Otestujte si, jak rozumíte příkladům protivníka, znalostem útočníků, modelům hrozeb, trénování obrany a rozsahovým hodnocením odolnosti.

Související vodicí cestyProtichůdné příklady a robustnost
Otázka 1 z 8

Under a specified threat model, what is an adversarial example?

Náhled každé otázky8 otázky

Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.

  1. Under a specified threat model, what is an adversarial example?
    • An input crafted to cause a model error using changes allowed by that threat model
    • Any ordinary prediction error on unmodified input
    • An input that must contain tiny, imperceptible pixel changes
    • A model update that improves accuracy on every distribution
  2. Co odlišuje útok „bílé skříňky“ od útoku „černé skříňky“?
    • White-box útoky fungují pouze na bílé obrázky
    • V white-boxu má útočník přístup k vnitřnostem/gradientům modelu; v black-boxu pouze výstupy
    • Black-box útoky jsou vždy rychlejší
    • White-box útoky nevyžadují žádné výpočty
  3. FGSM (Fast Gradient Sign Method) vytváří nepřátelský příklad pomocí...
    • Náhodné míchání pixelů
    • Přeškolení modelu od nuly
    • Krok ve směru znaménka gradientu ztráty vzhledem ke vstupu
    • Oříznutí obrázku
  4. What is adversarial training commonly used for?
    • Guaranteeing robustness to every possible attack
    • Proving a classifier is fair
    • Eliminating all clean-data errors
    • Improving robustness against the adversarial threat model represented during training
  5. Proč se týká „převoditelnosti“ protichůdných příkladů?
    • Útok vytvořený na jeden model často oklame ostatní modely, což umožňuje útoky z černé skříňky
    • Modely tak trénují pomaleji
    • Zvyšuje náklady na skladování
    • Ovlivňuje pouze audio modely
  6. How are prompt-injection attacks related to image adversarial examples?
    • They are identical bounded pixel perturbations
    • Both exploit model vulnerabilities, but prompt injection has a distinct instruction and system threat model
    • Prompt injection requires changing model weights
    • Image adversarial examples only affect text prompts
  7. Why must an adversarial-robustness report specify the perturbation norm and budget?
    • They determine the model’s number of parameters
    • They guarantee transfer to every attack
    • They define which input changes the reported robustness claim covers
    • They replace the need to state an attacker’s access
  8. Which pair of measures helps distinguish clean performance from performance under a specified attack?
    • Training-set size and GPU memory
    • Tokenization rate and context length
    • Model file size and parameter dtype
    • Clean accuracy and robust accuracy under the stated attack setting