Quiz collegato alla guida · Medio Livello

Esempi contraddittori e quiz sulla robustezza

Testa la tua comprensione degli esempi avversari, della conoscenza dell'attaccante, dei modelli di minaccia, delle difese di addestramento e delle valutazioni di robustezza circoscritte.

Percorsi guida correlatiEsempi contraddittori e robustezza
Domanda 1 di 8

Under a specified threat model, what is an adversarial example?

Anteprima di ogni domanda8 domande

Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.

  1. Under a specified threat model, what is an adversarial example?
    • An input crafted to cause a model error using changes allowed by that threat model
    • Any ordinary prediction error on unmodified input
    • An input that must contain tiny, imperceptible pixel changes
    • A model update that improves accuracy on every distribution
  2. Cosa distingue un attacco "scatola bianca" da un attacco "scatola nera"?
    • Gli attacchi white-box funzionano solo su immagini bianche
    • Nella white-box, l'attaccante ha accesso agli interni/gradienti del modello; in scatola nera, solo uscite
    • Gli attacchi black-box sono sempre più veloci
    • Gli attacchi white-box non richiedono calcoli
  3. FGSM (Fast Gradient Sign Method) crea un esempio contraddittorio mediante...
    • Pixel mescolati casualmente
    • Riqualificare il modello da zero
    • Fare un passo nella direzione del segno del gradiente di perdita rispetto all'ingresso
    • Ritaglio dell'immagine
  4. What is adversarial training commonly used for?
    • Guaranteeing robustness to every possible attack
    • Proving a classifier is fair
    • Eliminating all clean-data errors
    • Improving robustness against the adversarial threat model represented during training
  5. Perché la “trasferibilità” degli esempi contraddittori è preoccupante?
    • Un attacco predisposto su un modello spesso inganna gli altri modelli, consentendo attacchi a scatola nera
    • Rende i modelli più lenti nell'addestramento
    • Aumenta i costi di stoccaggio
    • Interessa solo i modelli audio
  6. How are prompt-injection attacks related to image adversarial examples?
    • They are identical bounded pixel perturbations
    • Both exploit model vulnerabilities, but prompt injection has a distinct instruction and system threat model
    • Prompt injection requires changing model weights
    • Image adversarial examples only affect text prompts
  7. Why must an adversarial-robustness report specify the perturbation norm and budget?
    • They determine the model’s number of parameters
    • They guarantee transfer to every attack
    • They define which input changes the reported robustness claim covers
    • They replace the need to state an attacker’s access
  8. Which pair of measures helps distinguish clean performance from performance under a specified attack?
    • Training-set size and GPU memory
    • Tokenization rate and context length
    • Model file size and parameter dtype
    • Clean accuracy and robust accuracy under the stated attack setting