Câu đố về các ví dụ đối nghịch và độ chắc chắn

Câu trả lời và giải thích xuất hiện khi bạn làm bài kiểm tra.

1. Under a specified threat model, what is an adversarial example?
   • An input crafted to cause a model error using changes allowed by that threat model
   • Any ordinary prediction error on unmodified input
   • An input that must contain tiny, imperceptible pixel changes
   • A model update that improves accuracy on every distribution
2. Điều gì phân biệt cuộc tấn công 'hộp trắng' với cuộc tấn công 'hộp đen'?
   • Các cuộc tấn công hộp trắng chỉ hoạt động trên hình ảnh màu trắng
   • Trong hộp trắng, kẻ tấn công có quyền truy cập vào phần bên trong/độ dốc của mô hình; trong hộp đen, chỉ có kết quả đầu ra
   • Các cuộc tấn công hộp đen luôn nhanh hơn
   • Tấn công hộp trắng không cần tính toán
3. FGSM (Phương pháp ký hiệu chuyển màu nhanh) tạo ra một ví dụ đối nghịch bằng...
   • Xáo trộn ngẫu nhiên các pixel
   • Đào tạo lại mô hình từ đầu
   • Thực hiện một bước theo hướng dấu của gradient mất mát đối với đầu vào
   • Cắt ảnh
4. What is adversarial training commonly used for?
   • Guaranteeing robustness to every possible attack
   • Proving a classifier is fair
   • Eliminating all clean-data errors
   • Improving robustness against the adversarial threat model represented during training
5. Tại sao 'khả năng chuyển nhượng' của các ví dụ đối nghịch lại đáng lo ngại?
   • Một cuộc tấn công được thực hiện trên một mô hình thường đánh lừa các mô hình khác, tạo điều kiện cho các cuộc tấn công hộp đen
   • Nó làm cho các mô hình đào tạo chậm hơn
   • Nó làm tăng chi phí lưu trữ
   • Nó chỉ ảnh hưởng đến các mẫu âm thanh
6. How are prompt-injection attacks related to image adversarial examples?
   • They are identical bounded pixel perturbations
   • Both exploit model vulnerabilities, but prompt injection has a distinct instruction and system threat model
   • Prompt injection requires changing model weights
   • Image adversarial examples only affect text prompts
7. Why must an adversarial-robustness report specify the perturbation norm and budget?
   • They determine the model’s number of parameters
   • They guarantee transfer to every attack
   • They define which input changes the reported robustness claim covers
   • They replace the need to state an attacker’s access
8. Which pair of measures helps distinguish clean performance from performance under a specified attack?
   • Training-set size and GPU memory
   • Tokenization rate and context length
   • Model file size and parameter dtype
   • Clean accuracy and robust accuracy under the stated attack setting