Παραδείγματα ανταγωνισμού και κουίζ ευρωστίας

Οι απαντήσεις και οι εξηγήσεις εμφανίζονται καθώς κάνετε το κουίζ.

1. Under a specified threat model, what is an adversarial example?
   • An input crafted to cause a model error using changes allowed by that threat model
   • Any ordinary prediction error on unmodified input
   • An input that must contain tiny, imperceptible pixel changes
   • A model update that improves accuracy on every distribution
2. Τι διακρίνει μια επίθεση «λευκού κουτιού» από μια επίθεση «μαύρου κουτιού»;
   • Οι επιθέσεις White-box λειτουργούν μόνο σε λευκές εικόνες
   • Στο λευκό κουτί, ο εισβολέας έχει πρόσβαση στα εσωτερικά/διαβαθμίσεις του μοντέλου. σε μαύρο κουτί, μόνο έξοδοι
   • Οι επιθέσεις μαύρου κουτιού είναι πάντα πιο γρήγορες
   • Οι επιθέσεις White-box δεν απαιτούν υπολογισμό
3. Το FGSM (Fast Gradient Sign Method) δημιουργεί ένα αντίθετο παράδειγμα από...
   • Τυχαία ανακάτεμα εικονοστοιχείων
   • Επανεκπαίδευση του μοντέλου από την αρχή
   • Κάνοντας ένα βήμα προς την κατεύθυνση του πρόσημου της κλίσης απώλειας ως προς την είσοδο
   • Περικοπή της εικόνας
4. What is adversarial training commonly used for?
   • Guaranteeing robustness to every possible attack
   • Proving a classifier is fair
   • Eliminating all clean-data errors
   • Improving robustness against the adversarial threat model represented during training
5. Γιατί είναι ανησυχητική η «μεταβιβασιμότητα» των αντίθετων παραδειγμάτων;
   • Μια επίθεση που δημιουργείται σε ένα μοντέλο συχνά ξεγελάει άλλα μοντέλα, επιτρέποντας επιθέσεις μαύρου κουτιού
   • Κάνει τα μοντέλα να προπονούνται πιο αργά
   • Αυξάνει το κόστος αποθήκευσης
   • Επηρεάζει μόνο μοντέλα ήχου
6. How are prompt-injection attacks related to image adversarial examples?
   • They are identical bounded pixel perturbations
   • Both exploit model vulnerabilities, but prompt injection has a distinct instruction and system threat model
   • Prompt injection requires changing model weights
   • Image adversarial examples only affect text prompts
7. Why must an adversarial-robustness report specify the perturbation norm and budget?
   • They determine the model’s number of parameters
   • They guarantee transfer to every attack
   • They define which input changes the reported robustness claim covers
   • They replace the need to state an attacker’s access
8. Which pair of measures helps distinguish clean performance from performance under a specified attack?
   • Training-set size and GPU memory
   • Tokenization rate and context length
   • Model file size and parameter dtype
   • Clean accuracy and robust accuracy under the stated attack setting