Útmutatóhoz kapcsolódó kvíz · Közepes Szint
Tagsági következtetés támadások kvíz
Study training-membership inference, with shadow models, LiRA calibration, differential-privacy bounds, false positives, and attack evaluation.
kérdés 1 -ból 8
Mit próbál meghatározni a tagsági következtetésre irányuló támadás?
Tekintse meg az összes kérdést8 kérdéseket
A válaszok és magyarázatok megjelennek a kvíz kitöltésekor.
- Mit próbál meghatározni a tagsági következtetésre irányuló támadás?
- Hogy egy adott rekord része volt-e az edzéskészletnek
- A modell pontossága
- A modell architektúrája
- A tesztkészlet mérete
- How can overfitting affect membership-inference exposure in studied models?
- It proves every training record is identifiable with certainty
- It removes the need to evaluate attack errors
- It can increase the behavioral difference between members and comparable nonmembers
- It makes all outputs independent of training data
- Milyen technikával készült az eredeti 2017-es Shokri et al. támadásra támaszkodhat?
- Gradiens vágás
- Árnyékmodellek
- Sugárkeresés
- Tokenizálás
- Miért lehet káros a tagságra való következtetés még a rekord tartalmának felfedése nélkül is?
- Lelassítja a modell működését
- Megváltoztatja a modell súlyát
- Törli az edzési adatokat
- A tagság maga is felfedhet érzékeny tényeket, például egy diagnózist
- What calibration distinguishes the cited LiRA approach from a single naive loss threshold?
- A guarantee that every record has the same inherent difficulty
- Only an increased generation temperature
- Per-example score distributions estimated from in and out models
- A requirement that the target reveal its entire training dataset
- What does a properly specified differential-privacy guarantee bound?
- Changes in output probabilities between neighboring datasets
- A guarantee that no attack can ever make any correct guess
- A mandatory deletion of all model outputs
- Only the raw number of files in a training folder
- An attack incorrectly flags 10 of 1,000 actual nonmembers as members. What is its false-positive rate on those nonmembers?
- 10%
- 0,1%
- 100%
- 1%
- Why does the LiRA paper emphasize true-positive rate at low false-positive rates?
- False positives are impossible by definition
- Average accuracy can conceal whether confidently flagged records are reliable membership evidence
- Every member and nonmember population must have identical sizes
- The model’s training accuracy directly gives attack precision