Karşıt Örnekler ve Sağlamlık Testi

Testi çözdüğünüzde cevaplar ve açıklamalar görünür.

1. Under a specified threat model, what is an adversarial example?
   • An input crafted to cause a model error using changes allowed by that threat model
   • Any ordinary prediction error on unmodified input
   • An input that must contain tiny, imperceptible pixel changes
   • A model update that improves accuracy on every distribution
2. 'Beyaz kutu' saldırısını 'kara kutu' saldırısından ayıran nedir?
   • Beyaz kutu saldırıları yalnızca beyaz görüntüler üzerinde çalışır
   • Beyaz kutuda saldırganın modelin iç kısımlarına/gradyanlarına erişimi vardır; kara kutuda, yalnızca çıktılar
   • Kara kutu saldırıları her zaman daha hızlıdır
   • Beyaz kutu saldırıları hesaplama gerektirmez
3. FGSM (Hızlı Gradyan İşaret Yöntemi), düşmanca bir örnek oluşturur:
   • Piksellerin rastgele karıştırılması
   • Modeli sıfırdan yeniden eğitmek
   • Girişe göre kayıp eğiminin işareti yönünde bir adım atmak
   • Resmi kırpma
4. What is adversarial training commonly used for?
   • Guaranteeing robustness to every possible attack
   • Proving a classifier is fair
   • Eliminating all clean-data errors
   • Improving robustness against the adversarial threat model represented during training
5. Karşıt örneklerin 'aktarılabilirliği' neden endişe verici?
   • Bir modele yapılan saldırı genellikle diğer modelleri kandırarak kara kutu saldırılarına olanak tanır
   • Modellerin daha yavaş eğitilmesine neden olur
   • Depolama maliyetlerini artırır
   • Yalnızca ses modellerini etkiler
6. How are prompt-injection attacks related to image adversarial examples?
   • They are identical bounded pixel perturbations
   • Both exploit model vulnerabilities, but prompt injection has a distinct instruction and system threat model
   • Prompt injection requires changing model weights
   • Image adversarial examples only affect text prompts
7. Why must an adversarial-robustness report specify the perturbation norm and budget?
   • They determine the model’s number of parameters
   • They guarantee transfer to every attack
   • They define which input changes the reported robustness claim covers
   • They replace the need to state an attacker’s access
8. Which pair of measures helps distinguish clean performance from performance under a specified attack?
   • Training-set size and GPU memory
   • Tokenization rate and context length
   • Model file size and parameter dtype
   • Clean accuracy and robust accuracy under the stated attack setting