แบบทดสอบที่เชื่อมโยงกับคำแนะนำ · ปานกลาง ระดับ

แบบทดสอบศัตรูและความแข็งแกร่ง

ทดสอบความเข้าใจของคุณเกี่ยวกับตัวอย่างฝ่ายตรงข้าม ความรู้ของผู้โจมตี โมเดลภัยคุกคาม การฝึกอบรมการป้องกัน และการประเมินขอบเขตความแข็งแกร่ง

เส้นทางแนะนำที่เกี่ยวข้องตัวอย่างศัตรูและความแข็งแกร่ง
คำถาม 1 ของ 8

Under a specified threat model, what is an adversarial example?

ดูตัวอย่างทุกคำถาม8 คำถาม

คำตอบและคำอธิบายจะปรากฏขึ้นเมื่อคุณทำแบบทดสอบ

  1. Under a specified threat model, what is an adversarial example?
    • An input crafted to cause a model error using changes allowed by that threat model
    • Any ordinary prediction error on unmodified input
    • An input that must contain tiny, imperceptible pixel changes
    • A model update that improves accuracy on every distribution
  2. อะไรที่ทำให้การโจมตีแบบ 'กล่องขาว' แตกต่างจากการโจมตีแบบ 'กล่องดำ'
    • การโจมตีแบบกล่องขาวใช้ได้กับภาพสีขาวเท่านั้น
    • ในกล่องสีขาว ผู้โจมตีสามารถเข้าถึงข้อมูลภายใน/การไล่ระดับสีของโมเดลได้ ในกล่องดำเฉพาะเอาต์พุตเท่านั้น
    • การโจมตีกล่องดำจะเร็วกว่าเสมอ
    • การโจมตีกล่องขาวไม่จำเป็นต้องมีการคำนวณ
  3. FGSM (Fast Gradient Sign Method) สร้างตัวอย่างฝ่ายตรงข้ามโดย...
    • สุ่มสับพิกเซล
    • ฝึกโมเดลใหม่ตั้งแต่ต้น
    • ก้าวไปในทิศทางของเครื่องหมายของการไล่ระดับสีการสูญเสียโดยคำนึงถึงอินพุต
    • การครอบตัดรูปภาพ
  4. What is adversarial training commonly used for?
    • Guaranteeing robustness to every possible attack
    • Proving a classifier is fair
    • Eliminating all clean-data errors
    • Improving robustness against the adversarial threat model represented during training
  5. เหตุใด 'ความสามารถในการถ่ายโอน' ของตัวอย่างฝ่ายตรงข้ามจึงเกี่ยวข้อง
    • การโจมตีที่สร้างขึ้นในโมเดลหนึ่งมักจะหลอกโมเดลอื่น ทำให้เกิดการโจมตีแบบกล่องดำ
    • มันทำให้โมเดลฝึกช้าลง
    • มันเพิ่มต้นทุนการจัดเก็บ
    • มีผลกับโมเดลเสียงเท่านั้น
  6. How are prompt-injection attacks related to image adversarial examples?
    • They are identical bounded pixel perturbations
    • Both exploit model vulnerabilities, but prompt injection has a distinct instruction and system threat model
    • Prompt injection requires changing model weights
    • Image adversarial examples only affect text prompts
  7. Why must an adversarial-robustness report specify the perturbation norm and budget?
    • They determine the model’s number of parameters
    • They guarantee transfer to every attack
    • They define which input changes the reported robustness claim covers
    • They replace the need to state an attacker’s access
  8. Which pair of measures helps distinguish clean performance from performance under a specified attack?
    • Training-set size and GPU memory
    • Tokenization rate and context length
    • Model file size and parameter dtype
    • Clean accuracy and robust accuracy under the stated attack setting