Примери за състезание и тест за устойчивост

Отговорите и обясненията се появяват, докато отговаряте на теста.

1. При определен модел на заплаха, какво е състезателен пример?
   • An input crafted to cause a model error using changes allowed by that threat model
   • Any ordinary prediction error on unmodified input
   • An input that must contain tiny, imperceptible pixel changes
   • A model update that improves accuracy on every distribution
2. Какво отличава атаката на „бяла кутия“ от атака на „черна кутия“?
   • Атаките с бяла кутия работят само върху бели изображения
   • В бялата кутия нападателят има достъп до вътрешността/градиентите на модела; в черна кутия, само изходи
   • Атаките с черна кутия винаги са по-бързи
   • Атаките с бяла кутия не изискват изчисления
3. FGSM (Fast Gradient Sign Method) изработва състезателен пример чрез...
   • Произволно разбъркване на пиксели
   • Преобучение на модела от нулата
   • Правене на стъпка в посоката на знака на градиента на загубата по отношение на входа
   • Изрязване на изображението
4. За какво обикновено се използва състезателното обучение?
   • Guaranteeing robustness to every possible attack
   • Proving a classifier is fair
   • Eliminating all clean-data errors
   • Improving robustness against the adversarial threat model represented during training
5. Защо „прехвърляемостта“ на състезателните примери е тревожна?
   • Атака, създадена върху един модел, често заблуждава други модели, позволявайки атаки от черна кутия
   • Това кара моделите да тренират по-бавно
   • Увеличава разходите за съхранение
   • Засяга само аудио модели
6. Как атаките с бързо инжектиране са свързани с примери за противопоставяне на изображения?
   • They are identical bounded pixel perturbations
   • Both exploit model vulnerabilities, but prompt injection has a distinct instruction and system threat model
   • Prompt injection requires changing model weights
   • Image adversarial examples only affect text prompts
7. Why must an adversarial-robustness report specify the perturbation norm and budget?
   • They determine the model’s number of parameters
   • They guarantee transfer to every attack
   • They define which input changes the reported robustness claim covers
   • They replace the need to state an attacker’s access
8. Which pair of measures helps distinguish clean performance from performance under a specified attack?
   • Training-set size and GPU memory
   • Tokenization rate and context length
   • Model file size and parameter dtype
   • Clean accuracy and robust accuracy under the stated attack setting