แบบทดสอบที่เชื่อมโยงกับคำแนะนำ · ปานกลาง ระดับ
แบบทดสอบศัตรูและความแข็งแกร่ง
ทดสอบความเข้าใจของคุณเกี่ยวกับตัวอย่างฝ่ายตรงข้าม ความรู้ของผู้โจมตี โมเดลภัยคุกคาม การฝึกอบรมการป้องกัน และการประเมินขอบเขตความแข็งแกร่ง
คำถาม 1 ของ 8
Under a specified threat model, what is an adversarial example?
ดูตัวอย่างทุกคำถาม8 คำถาม
คำตอบและคำอธิบายจะปรากฏขึ้นเมื่อคุณทำแบบทดสอบ
- Under a specified threat model, what is an adversarial example?
- An input crafted to cause a model error using changes allowed by that threat model
- Any ordinary prediction error on unmodified input
- An input that must contain tiny, imperceptible pixel changes
- A model update that improves accuracy on every distribution
- อะไรที่ทำให้การโจมตีแบบ 'กล่องขาว' แตกต่างจากการโจมตีแบบ 'กล่องดำ'
- การโจมตีแบบกล่องขาวใช้ได้กับภาพสีขาวเท่านั้น
- ในกล่องสีขาว ผู้โจมตีสามารถเข้าถึงข้อมูลภายใน/การไล่ระดับสีของโมเดลได้ ในกล่องดำเฉพาะเอาต์พุตเท่านั้น
- การโจมตีกล่องดำจะเร็วกว่าเสมอ
- การโจมตีกล่องขาวไม่จำเป็นต้องมีการคำนวณ
- FGSM (Fast Gradient Sign Method) สร้างตัวอย่างฝ่ายตรงข้ามโดย...
- สุ่มสับพิกเซล
- ฝึกโมเดลใหม่ตั้งแต่ต้น
- ก้าวไปในทิศทางของเครื่องหมายของการไล่ระดับสีการสูญเสียโดยคำนึงถึงอินพุต
- การครอบตัดรูปภาพ
- What is adversarial training commonly used for?
- Guaranteeing robustness to every possible attack
- Proving a classifier is fair
- Eliminating all clean-data errors
- Improving robustness against the adversarial threat model represented during training
- เหตุใด 'ความสามารถในการถ่ายโอน' ของตัวอย่างฝ่ายตรงข้ามจึงเกี่ยวข้อง
- การโจมตีที่สร้างขึ้นในโมเดลหนึ่งมักจะหลอกโมเดลอื่น ทำให้เกิดการโจมตีแบบกล่องดำ
- มันทำให้โมเดลฝึกช้าลง
- มันเพิ่มต้นทุนการจัดเก็บ
- มีผลกับโมเดลเสียงเท่านั้น
- How are prompt-injection attacks related to image adversarial examples?
- They are identical bounded pixel perturbations
- Both exploit model vulnerabilities, but prompt injection has a distinct instruction and system threat model
- Prompt injection requires changing model weights
- Image adversarial examples only affect text prompts
- Why must an adversarial-robustness report specify the perturbation norm and budget?
- They determine the model’s number of parameters
- They guarantee transfer to every attack
- They define which input changes the reported robustness claim covers
- They replace the need to state an attacker’s access
- Which pair of measures helps distinguish clean performance from performance under a specified attack?
- Training-set size and GPU memory
- Tokenization rate and context length
- Model file size and parameter dtype
- Clean accuracy and robust accuracy under the stated attack setting