Kvíz spojený s průvodcem · Střední úroveň
Příklady protivníka a kvíz o robustnosti
Otestujte si, jak rozumíte příkladům protivníka, znalostem útočníků, modelům hrozeb, trénování obrany a rozsahovým hodnocením odolnosti.
Otázka 1 z 8
Under a specified threat model, what is an adversarial example?
Náhled každé otázky8 otázky
Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.
- Under a specified threat model, what is an adversarial example?
- An input crafted to cause a model error using changes allowed by that threat model
- Any ordinary prediction error on unmodified input
- An input that must contain tiny, imperceptible pixel changes
- A model update that improves accuracy on every distribution
- Co odlišuje útok „bílé skříňky“ od útoku „černé skříňky“?
- White-box útoky fungují pouze na bílé obrázky
- V white-boxu má útočník přístup k vnitřnostem/gradientům modelu; v black-boxu pouze výstupy
- Black-box útoky jsou vždy rychlejší
- White-box útoky nevyžadují žádné výpočty
- FGSM (Fast Gradient Sign Method) vytváří nepřátelský příklad pomocí...
- Náhodné míchání pixelů
- Přeškolení modelu od nuly
- Krok ve směru znaménka gradientu ztráty vzhledem ke vstupu
- Oříznutí obrázku
- What is adversarial training commonly used for?
- Guaranteeing robustness to every possible attack
- Proving a classifier is fair
- Eliminating all clean-data errors
- Improving robustness against the adversarial threat model represented during training
- Proč se týká „převoditelnosti“ protichůdných příkladů?
- Útok vytvořený na jeden model často oklame ostatní modely, což umožňuje útoky z černé skříňky
- Modely tak trénují pomaleji
- Zvyšuje náklady na skladování
- Ovlivňuje pouze audio modely
- How are prompt-injection attacks related to image adversarial examples?
- They are identical bounded pixel perturbations
- Both exploit model vulnerabilities, but prompt injection has a distinct instruction and system threat model
- Prompt injection requires changing model weights
- Image adversarial examples only affect text prompts
- Why must an adversarial-robustness report specify the perturbation norm and budget?
- They determine the model’s number of parameters
- They guarantee transfer to every attack
- They define which input changes the reported robustness claim covers
- They replace the need to state an attacker’s access
- Which pair of measures helps distinguish clean performance from performance under a specified attack?
- Training-set size and GPU memory
- Tokenization rate and context length
- Model file size and parameter dtype
- Clean accuracy and robust accuracy under the stated attack setting