Gids-gekoppelde quiz · Middelmatig Niveau
Quiz over lidmaatschapsinferentieaanvallen
Bestudeer de gevolgtrekkingen van trainingslidmaatschap, met schaduwmodellen, LiRA-kalibratie, differentiële privacygrenzen, valse positieven en aanvalsevaluatie.
Vraag 1 van 8
Wat probeert een lidmaatschapsinferentieaanval vast te stellen?
Bekijk elke vraag8 vragen
Antwoorden en uitleg verschijnen terwijl je de quiz doet.
- Wat probeert een lidmaatschapsinferentieaanval vast te stellen?
- Of een specifiek record deel uitmaakte van de trainingsset
- De nauwkeurigheid van het model
- De architectuur van het model
- De grootte van de testset
- How can overfitting affect membership-inference exposure in studied models?
- It proves every training record is identifiable with certainty
- It removes the need to evaluate attack errors
- It can increase the behavioral difference between members and comparable nonmembers
- It makes all outputs independent of training data
- Welke techniek heeft de originele Shokri et al. uit 2017 gebruikt? aanval vertrouwen?
- Verloop knippen
- Schaduwmodellen
- Straal zoeken
- Tokenisatie
- Waarom kan lidmaatschapsgevolgtrekking schadelijk zijn, zelfs zonder de inhoud van het dossier te onthullen?
- Het vertraagt het model
- Het verandert de gewichten van het model
- Het verwijdert trainingsgegevens
- Het lidmaatschap zelf kan gevoelige feiten onthullen, zoals een diagnose
- What calibration distinguishes the cited LiRA approach from a single naive loss threshold?
- A guarantee that every record has the same inherent difficulty
- Only an increased generation temperature
- Per-example score distributions estimated from in and out models
- A requirement that the target reveal its entire training dataset
- What does a properly specified differential-privacy guarantee bound?
- Changes in output probabilities between neighboring datasets
- A guarantee that no attack can ever make any correct guess
- A mandatory deletion of all model outputs
- Only the raw number of files in a training folder
- An attack incorrectly flags 10 of 1,000 actual nonmembers as members. What is its false-positive rate on those nonmembers?
- 10%
- 0.1%
- 100%
- 1%
- Why does the LiRA paper emphasize true-positive rate at low false-positive rates?
- False positives are impossible by definition
- Average accuracy can conceal whether confidently flagged records are reliable membership evidence
- Every member and nonmember population must have identical sizes
- The model’s training accuracy directly gives attack precision