Quiz collegato alla guida · Medio Livello
Quiz sugli attacchi sull'inferenza dell'appartenenza
Studia l'inferenza dell'appartenenza alla formazione, con modelli ombra, calibrazione LiRA, limiti differenziali di privacy, falsi positivi e valutazione degli attacchi.
Domanda 1 di 8
Che cosa sta cercando di determinare un attacco di inferenza di appartenenza?
Anteprima di ogni domanda8 domande
Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.
- Che cosa sta cercando di determinare un attacco di inferenza di appartenenza?
- Se un record specifico faceva parte del set di training
- La precisione del modello
- L'architettura del modello
- La dimensione del set di test
- How can overfitting affect membership-inference exposure in studied models?
- It proves every training record is identifiable with certainty
- It removes the need to evaluate attack errors
- It can increase the behavioral difference between members and comparable nonmembers
- It makes all outputs independent of training data
- Quale tecnica ha utilizzato l'originale Shokri et al. attacco su cui fare affidamento?
- Ritaglio gradiente
- Modelli d'ombra
- Ricerca del raggio
- Tokenizzazione
- Perché l'inferenza sull'appartenenza può essere dannosa anche senza rivelare il contenuto del record?
- Rallenta il modello
- Cambia i pesi del modello
- Cancella i dati di allenamento
- L’adesione stessa può rivelare fatti sensibili, come una diagnosi
- What calibration distinguishes the cited LiRA approach from a single naive loss threshold?
- A guarantee that every record has the same inherent difficulty
- Only an increased generation temperature
- Per-example score distributions estimated from in and out models
- A requirement that the target reveal its entire training dataset
- What does a properly specified differential-privacy guarantee bound?
- Changes in output probabilities between neighboring datasets
- A guarantee that no attack can ever make any correct guess
- A mandatory deletion of all model outputs
- Only the raw number of files in a training folder
- An attack incorrectly flags 10 of 1,000 actual nonmembers as members. What is its false-positive rate on those nonmembers?
- 10%
- 0.1%
- 100%
- 1%
- Why does the LiRA paper emphasize true-positive rate at low false-positive rates?
- False positives are impossible by definition
- Average accuracy can conceal whether confidently flagged records are reliable membership evidence
- Every member and nonmember population must have identical sizes
- The model’s training accuracy directly gives attack precision