Quiz collegato alla guida · Medio Livello
Esempi contraddittori e quiz sulla robustezza
Testa la tua comprensione degli esempi avversari, della conoscenza dell'attaccante, dei modelli di minaccia, delle difese di addestramento e delle valutazioni di robustezza circoscritte.
Domanda 1 di 8
Under a specified threat model, what is an adversarial example?
Anteprima di ogni domanda8 domande
Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.
- Under a specified threat model, what is an adversarial example?
- An input crafted to cause a model error using changes allowed by that threat model
- Any ordinary prediction error on unmodified input
- An input that must contain tiny, imperceptible pixel changes
- A model update that improves accuracy on every distribution
- Cosa distingue un attacco "scatola bianca" da un attacco "scatola nera"?
- Gli attacchi white-box funzionano solo su immagini bianche
- Nella white-box, l'attaccante ha accesso agli interni/gradienti del modello; in scatola nera, solo uscite
- Gli attacchi black-box sono sempre più veloci
- Gli attacchi white-box non richiedono calcoli
- FGSM (Fast Gradient Sign Method) crea un esempio contraddittorio mediante...
- Pixel mescolati casualmente
- Riqualificare il modello da zero
- Fare un passo nella direzione del segno del gradiente di perdita rispetto all'ingresso
- Ritaglio dell'immagine
- What is adversarial training commonly used for?
- Guaranteeing robustness to every possible attack
- Proving a classifier is fair
- Eliminating all clean-data errors
- Improving robustness against the adversarial threat model represented during training
- Perché la “trasferibilità” degli esempi contraddittori è preoccupante?
- Un attacco predisposto su un modello spesso inganna gli altri modelli, consentendo attacchi a scatola nera
- Rende i modelli più lenti nell'addestramento
- Aumenta i costi di stoccaggio
- Interessa solo i modelli audio
- How are prompt-injection attacks related to image adversarial examples?
- They are identical bounded pixel perturbations
- Both exploit model vulnerabilities, but prompt injection has a distinct instruction and system threat model
- Prompt injection requires changing model weights
- Image adversarial examples only affect text prompts
- Why must an adversarial-robustness report specify the perturbation norm and budget?
- They determine the model’s number of parameters
- They guarantee transfer to every attack
- They define which input changes the reported robustness claim covers
- They replace the need to state an attacker’s access
- Which pair of measures helps distinguish clean performance from performance under a specified attack?
- Training-set size and GPU memory
- Tokenization rate and context length
- Model file size and parameter dtype
- Clean accuracy and robust accuracy under the stated attack setting