Kvíz spojený s průvodcem · Střední úroveň
Kvíz Útoky o inferencích členství
Studujte inferenci tréninku-členství se stínovými modely, kalibrací LiRA, diferenciálními hranicemi soukromí, falešně pozitivními výsledky a vyhodnocením útoku.
Otázka 1 z 8
Co se snaží zjistit inferenční útok na členství?
Náhled každé otázky8 otázky
Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.
- Co se snaží zjistit inferenční útok na členství?
- Zda byl konkrétní záznam součástí tréninkové sady
- Přesnost modelu
- Architektura modelu
- Velikost testovací sady
- How can overfitting affect membership-inference exposure in studied models?
- It proves every training record is identifiable with certainty
- It removes the need to evaluate attack errors
- It can increase the behavioral difference between members and comparable nonmembers
- It makes all outputs independent of training data
- Jakou techniku provedl původní Shokri z roku 2017 a spol. na útok spoléhat?
- Oříznutí přechodu
- Stínové modely
- Hledání paprskem
- Tokenizace
- Proč může být závěr o členství škodlivý i bez odhalení obsahu záznamu?
- Zpomaluje to model
- Mění váhy modelu
- Vymaže tréninková data
- Samotné členství může odhalit citlivá fakta, jako je diagnóza
- What calibration distinguishes the cited LiRA approach from a single naive loss threshold?
- A guarantee that every record has the same inherent difficulty
- Only an increased generation temperature
- Per-example score distributions estimated from in and out models
- A requirement that the target reveal its entire training dataset
- What does a properly specified differential-privacy guarantee bound?
- Changes in output probabilities between neighboring datasets
- A guarantee that no attack can ever make any correct guess
- A mandatory deletion of all model outputs
- Only the raw number of files in a training folder
- An attack incorrectly flags 10 of 1,000 actual nonmembers as members. What is its false-positive rate on those nonmembers?
- 10 %
- 0.1%
- 100 %
- 1%
- Why does the LiRA paper emphasize true-positive rate at low false-positive rates?
- False positives are impossible by definition
- Average accuracy can conceal whether confidently flagged records are reliable membership evidence
- Every member and nonmember population must have identical sizes
- The model’s training accuracy directly gives attack precision