Bài kiểm tra có liên kết hướng dẫn · Trung bình Cấp độ

Bài kiểm tra tấn công suy luận thành viên

Nghiên cứu suy luận đào tạo-thành viên, với các mô hình bóng, hiệu chuẩn LiRA, giới hạn khác biệt về quyền riêng tư, kết quả dương tính giả và đánh giá tấn công.

Đường dẫn hướng dẫn liên quanTấn công suy luận thành viên
Câu hỏi 1 của 8

Một cuộc tấn công suy luận thành viên đang cố gắng xác định là gì?

Xem trước mọi câu hỏi8 câu hỏi

Câu trả lời và giải thích xuất hiện khi bạn làm bài kiểm tra.

  1. Một cuộc tấn công suy luận thành viên đang cố gắng xác định là gì?
    • Liệu một bản ghi cụ thể có phải là một phần của tập huấn luyện hay không
    • Độ chính xác của mô hình
    • Kiến trúc của mô hình
    • Kích thước của bộ thử nghiệm
  2. How can overfitting affect membership-inference exposure in studied models?
    • It proves every training record is identifiable with certainty
    • It removes the need to evaluate attack errors
    • It can increase the behavioral difference between members and comparable nonmembers
    • It makes all outputs independent of training data
  3. Shokri et al. 2017 ban đầu đã thực hiện kỹ thuật gì. dựa vào tấn công?
    • Cắt bớt độ dốc
    • Mô hình bóng
    • Tìm kiếm tia
    • Mã thông báo
  4. Tại sao suy luận của thành viên có thể có hại ngay cả khi không tiết lộ nội dung của hồ sơ?
    • Nó làm mô hình chậm lại
    • Nó thay đổi trọng lượng của mô hình
    • Nó xóa dữ liệu đào tạo
    • Bản thân tư cách thành viên có thể tiết lộ những sự thật nhạy cảm, như chẩn đoán
  5. What calibration distinguishes the cited LiRA approach from a single naive loss threshold?
    • A guarantee that every record has the same inherent difficulty
    • Only an increased generation temperature
    • Per-example score distributions estimated from in and out models
    • A requirement that the target reveal its entire training dataset
  6. What does a properly specified differential-privacy guarantee bound?
    • Changes in output probabilities between neighboring datasets
    • A guarantee that no attack can ever make any correct guess
    • A mandatory deletion of all model outputs
    • Only the raw number of files in a training folder
  7. An attack incorrectly flags 10 of 1,000 actual nonmembers as members. What is its false-positive rate on those nonmembers?
    • 10%
    • 0.1%
    • 100%
    • 1%
  8. Why does the LiRA paper emphasize true-positive rate at low false-positive rates?
    • False positives are impossible by definition
    • Average accuracy can conceal whether confidently flagged records are reliable membership evidence
    • Every member and nonmember population must have identical sizes
    • The model’s training accuracy directly gives attack precision