Gids-gekoppelde quiz · Middelmatig Niveau

Tegenstrijdige voorbeelden en robuustheidsquiz

Test uw begrip van voorbeelden van tegenstanders, kennis van aanvallers, dreigingsmodellen, trainingsverdedigingen en uitgebreide robuustheidsevaluaties.

Vraag 1 van 8

Under a specified threat model, what is an adversarial example?

Bekijk elke vraag8 vragen

Antwoorden en uitleg verschijnen terwijl je de quiz doet.

  1. Under a specified threat model, what is an adversarial example?
    • An input crafted to cause a model error using changes allowed by that threat model
    • Any ordinary prediction error on unmodified input
    • An input that must contain tiny, imperceptible pixel changes
    • A model update that improves accuracy on every distribution
  2. Wat onderscheidt een 'white-box'-aanval van een 'black-box'-aanval?
    • White-box-aanvallen werken alleen op witte afbeeldingen
    • In de white-box heeft de aanvaller toegang tot de interne onderdelen/gradiënten van het model; in black-box, alleen uitgangen
    • Black-box-aanvallen zijn altijd sneller
    • White-box-aanvallen vereisen geen berekening
  3. FGSM (Fast Gradient Sign Method) maakt een vijandig voorbeeld door...
    • Willekeurig bewegende pixels
    • Het model helemaal opnieuw trainen
    • Een stap zetten in de richting van het teken van de verliesgradiënt ten opzichte van de invoer
    • De afbeelding bijsnijden
  4. What is adversarial training commonly used for?
    • Guaranteeing robustness to every possible attack
    • Proving a classifier is fair
    • Eliminating all clean-data errors
    • Improving robustness against the adversarial threat model represented during training
  5. Waarom is de ‘overdraagbaarheid’ van vijandige voorbeelden zorgwekkend?
    • Een aanval op één model houdt vaak andere modellen voor de gek, waardoor black-box-aanvallen mogelijk worden
    • Het zorgt ervoor dat modellen langzamer trainen
    • Het verhoogt de opslagkosten
    • Het heeft alleen invloed op audiomodellen
  6. How are prompt-injection attacks related to image adversarial examples?
    • They are identical bounded pixel perturbations
    • Both exploit model vulnerabilities, but prompt injection has a distinct instruction and system threat model
    • Prompt injection requires changing model weights
    • Image adversarial examples only affect text prompts
  7. Why must an adversarial-robustness report specify the perturbation norm and budget?
    • They determine the model’s number of parameters
    • They guarantee transfer to every attack
    • They define which input changes the reported robustness claim covers
    • They replace the need to state an attacker’s access
  8. Which pair of measures helps distinguish clean performance from performance under a specified attack?
    • Training-set size and GPU memory
    • Tokenization rate and context length
    • Model file size and parameter dtype
    • Clean accuracy and robust accuracy under the stated attack setting