Útmutatóhoz kapcsolódó kvíz · Közepes Szint
Ellenséges példák és robusztussági kvíz
Test your understanding of adversarial examples, attacker knowledge, threat models, training defenses, and scoped robustness evaluations.
kérdés 1 -ból 8
Under a specified threat model, what is an adversarial example?
Tekintse meg az összes kérdést8 kérdéseket
A válaszok és magyarázatok megjelennek a kvíz kitöltésekor.
- Under a specified threat model, what is an adversarial example?
- An input crafted to cause a model error using changes allowed by that threat model
- Any ordinary prediction error on unmodified input
- An input that must contain tiny, imperceptible pixel changes
- A model update that improves accuracy on every distribution
- Mi különbözteti meg a „fehér dobozos” támadást a „fekete dobozos” támadástól?
- A fehérdobozos támadások csak fehér képeken működnek
- A fehér mezőben a támadó hozzáfér a modell belső elemeihez/gradienseihez; fekete dobozban, csak kimenetek
- A black-box támadások mindig gyorsabbak
- A fehérdobozos támadások nem igényelnek számítást
- Az FGSM (Fast Gradient Sign Method) egy ellentétes példát hoz létre a...
- Véletlenszerűen keverednek a pixelek
- A modell újraképzése a semmiből
- Lépés a veszteség gradiens előjele irányába a bemenethez képest
- A kép kivágása
- What is adversarial training commonly used for?
- Guaranteeing robustness to every possible attack
- Proving a classifier is fair
- Eliminating all clean-data errors
- Improving robustness against the adversarial threat model represented during training
- Miért aggaszt a kontradiktórius példák „átruházhatósága”?
- Az egyik modellre kidolgozott támadás gyakran megtéveszt más modelleket, lehetővé téve a fekete doboz támadásait
- Lassabbá teszi a modellek edzését
- Növeli a tárolási költségeket
- Csak az audio modelleket érinti
- How are prompt-injection attacks related to image adversarial examples?
- They are identical bounded pixel perturbations
- Both exploit model vulnerabilities, but prompt injection has a distinct instruction and system threat model
- Prompt injection requires changing model weights
- Image adversarial examples only affect text prompts
- Why must an adversarial-robustness report specify the perturbation norm and budget?
- They determine the model’s number of parameters
- They guarantee transfer to every attack
- They define which input changes the reported robustness claim covers
- They replace the need to state an attacker’s access
- Which pair of measures helps distinguish clean performance from performance under a specified attack?
- Training-set size and GPU memory
- Tokenization rate and context length
- Model file size and parameter dtype
- Clean accuracy and robust accuracy under the stated attack setting