Test legat de ghid · Mediu Nivel

Testul asupra atacurilor de inferență de membru

Study training-membership inference, with shadow models, LiRA calibration, differential-privacy bounds, false positives, and attack evaluation.

Căi de ghidare aferenteAtacurile de inferență de membru
Întrebare 1 de 8

Ce încearcă să determine un atac de inferență de membru?

Previzualizează fiecare întrebare8 întrebări

Răspunsurile și explicațiile apar pe măsură ce susțineți testul.

  1. Ce încearcă să determine un atac de inferență de membru?
    • Dacă o anumită înregistrare a făcut parte din setul de antrenament
    • Precizia modelului
    • Arhitectura modelului
    • Dimensiunea setului de testare
  2. How can overfitting affect membership-inference exposure in studied models?
    • It proves every training record is identifiable with certainty
    • It removes the need to evaluate attack errors
    • It can increase the behavioral difference between members and comparable nonmembers
    • It makes all outputs independent of training data
  3. Ce tehnică a făcut originalul din 2017 Shokri et al. pe care te bazezi pe atac?
    • Tăiere în gradient
    • Modele în umbră
    • Căutare fascicul
    • Tokenizare
  4. De ce deducerea apartenenței poate fi dăunătoare chiar și fără a dezvălui conținutul înregistrării?
    • Încetinește modelul
    • Schimbă greutățile modelului
    • Acesta șterge datele de antrenament
    • Calitatea de membru în sine poate dezvălui fapte sensibile, cum ar fi un diagnostic
  5. What calibration distinguishes the cited LiRA approach from a single naive loss threshold?
    • A guarantee that every record has the same inherent difficulty
    • Only an increased generation temperature
    • Per-example score distributions estimated from in and out models
    • A requirement that the target reveal its entire training dataset
  6. What does a properly specified differential-privacy guarantee bound?
    • Changes in output probabilities between neighboring datasets
    • A guarantee that no attack can ever make any correct guess
    • A mandatory deletion of all model outputs
    • Only the raw number of files in a training folder
  7. An attack incorrectly flags 10 of 1,000 actual nonmembers as members. What is its false-positive rate on those nonmembers?
    • 10%
    • 0,1%
    • 100%
    • 1%
  8. Why does the LiRA paper emphasize true-positive rate at low false-positive rates?
    • False positives are impossible by definition
    • Average accuracy can conceal whether confidently flagged records are reliable membership evidence
    • Every member and nonmember population must have identical sizes
    • The model’s training accuracy directly gives attack precision