가이드 연계 퀴즈 · 중간 레벨

적대적 예와 견고성 퀴즈

적대적 사례, 공격자 지식, 위협 모델, 방어 훈련 및 범위가 지정된 견고성 평가에 대한 이해도를 테스트합니다.

관련 가이드 경로적대적인 예와 견고성
질문 1 의 8

Under a specified threat model, what is an adversarial example?

모든 질문 미리보기8 질문

퀴즈를 풀면 정답과 설명이 나타납니다.

  1. Under a specified threat model, what is an adversarial example?
    • An input crafted to cause a model error using changes allowed by that threat model
    • Any ordinary prediction error on unmodified input
    • An input that must contain tiny, imperceptible pixel changes
    • A model update that improves accuracy on every distribution
  2. '화이트박스' 공격과 '블랙박스' 공격의 차이점은 무엇입니까?
    • 화이트박스 공격은 흰색 이미지에서만 작동합니다.
    • 화이트박스에서 공격자는 모델의 내부/그라디언트에 접근할 수 있습니다. 블랙박스에서는 출력만 가능
    • 블랙박스 공격은 항상 더 빠르다
    • 화이트박스 공격에는 계산이 필요하지 않습니다.
  3. FGSM(Fast Gradient Sign Method)은 다음을 통해 적대적인 예를 만듭니다.
    • 무작위로 픽셀 섞기
    • 처음부터 모델 재학습
    • 입력에 대한 손실 기울기의 부호 방향으로 한 걸음 나아갑니다.
    • 이미지 자르기
  4. What is adversarial training commonly used for?
    • Guaranteeing robustness to every possible attack
    • Proving a classifier is fair
    • Eliminating all clean-data errors
    • Improving robustness against the adversarial threat model represented during training
  5. 적대적 사례의 '전이 가능성'이 왜 문제가 됩니까?
    • 한 모델에서 만들어진 공격은 종종 다른 모델을 속여 블랙박스 공격을 가능하게 합니다.
    • 모델 학습 속도가 느려집니다.
    • 보관 비용이 증가합니다.
    • 오디오 모델에만 영향을 미칩니다.
  6. How are prompt-injection attacks related to image adversarial examples?
    • They are identical bounded pixel perturbations
    • Both exploit model vulnerabilities, but prompt injection has a distinct instruction and system threat model
    • Prompt injection requires changing model weights
    • Image adversarial examples only affect text prompts
  7. Why must an adversarial-robustness report specify the perturbation norm and budget?
    • They determine the model’s number of parameters
    • They guarantee transfer to every attack
    • They define which input changes the reported robustness claim covers
    • They replace the need to state an attacker’s access
  8. Which pair of measures helps distinguish clean performance from performance under a specified attack?
    • Training-set size and GPU memory
    • Tokenization rate and context length
    • Model file size and parameter dtype
    • Clean accuracy and robust accuracy under the stated attack setting