Gids-gekoppelde quiz · Middelmatig Niveau
Tegenstrijdige voorbeelden en robuustheidsquiz
Test uw begrip van voorbeelden van tegenstanders, kennis van aanvallers, dreigingsmodellen, trainingsverdedigingen en uitgebreide robuustheidsevaluaties.
Vraag 1 van 8
Under a specified threat model, what is an adversarial example?
Bekijk elke vraag8 vragen
Antwoorden en uitleg verschijnen terwijl je de quiz doet.
- Under a specified threat model, what is an adversarial example?
- An input crafted to cause a model error using changes allowed by that threat model
- Any ordinary prediction error on unmodified input
- An input that must contain tiny, imperceptible pixel changes
- A model update that improves accuracy on every distribution
- Wat onderscheidt een 'white-box'-aanval van een 'black-box'-aanval?
- White-box-aanvallen werken alleen op witte afbeeldingen
- In de white-box heeft de aanvaller toegang tot de interne onderdelen/gradiënten van het model; in black-box, alleen uitgangen
- Black-box-aanvallen zijn altijd sneller
- White-box-aanvallen vereisen geen berekening
- FGSM (Fast Gradient Sign Method) maakt een vijandig voorbeeld door...
- Willekeurig bewegende pixels
- Het model helemaal opnieuw trainen
- Een stap zetten in de richting van het teken van de verliesgradiënt ten opzichte van de invoer
- De afbeelding bijsnijden
- What is adversarial training commonly used for?
- Guaranteeing robustness to every possible attack
- Proving a classifier is fair
- Eliminating all clean-data errors
- Improving robustness against the adversarial threat model represented during training
- Waarom is de ‘overdraagbaarheid’ van vijandige voorbeelden zorgwekkend?
- Een aanval op één model houdt vaak andere modellen voor de gek, waardoor black-box-aanvallen mogelijk worden
- Het zorgt ervoor dat modellen langzamer trainen
- Het verhoogt de opslagkosten
- Het heeft alleen invloed op audiomodellen
- How are prompt-injection attacks related to image adversarial examples?
- They are identical bounded pixel perturbations
- Both exploit model vulnerabilities, but prompt injection has a distinct instruction and system threat model
- Prompt injection requires changing model weights
- Image adversarial examples only affect text prompts
- Why must an adversarial-robustness report specify the perturbation norm and budget?
- They determine the model’s number of parameters
- They guarantee transfer to every attack
- They define which input changes the reported robustness claim covers
- They replace the need to state an attacker’s access
- Which pair of measures helps distinguish clean performance from performance under a specified attack?
- Training-set size and GPU memory
- Tokenization rate and context length
- Model file size and parameter dtype
- Clean accuracy and robust accuracy under the stated attack setting