Quiz lié à un guide · Moyen Niveau

Quiz sur les attaques par inférence d'adhésion

Étudiez l'inférence d'adhésion à la formation, avec des modèles fantômes, l'étalonnage LiRA, les limites de confidentialité différentielle, les faux positifs et l'évaluation des attaques.

Chemins de guidage associésAttaques par inférence d’adhésion
Question 1 de 8

Qu’est-ce qu’une attaque par inférence d’appartenance tente de déterminer ?

Prévisualisez chaque question8 des questions

Les réponses et les explications apparaissent au fur et à mesure que vous répondez au quiz.

  1. Qu’est-ce qu’une attaque par inférence d’appartenance tente de déterminer ?
    • Si un enregistrement spécifique faisait partie de l'ensemble de formation
    • La précision du modèle
    • L'architecture du modèle
    • La taille de l'ensemble de test
  2. How can overfitting affect membership-inference exposure in studied models?
    • It proves every training record is identifiable with certainty
    • It removes the need to evaluate attack errors
    • It can increase the behavioral difference between members and comparable nonmembers
    • It makes all outputs independent of training data
  3. Quelle technique le Shokri et al. l'attaque s'appuie-t-elle sur ?
    • Découpage de dégradé
    • Modèles d'ombre
    • Recherche de faisceau
    • Tokenisation
  4. Pourquoi la déduction d'une appartenance peut-elle être nuisible même sans révéler le contenu de l'enregistrement ?
    • Cela ralentit le modèle
    • Cela change les poids du modèle
    • Il supprime les données d'entraînement
    • L'adhésion elle-même peut révéler des faits sensibles, comme un diagnostic
  5. What calibration distinguishes the cited LiRA approach from a single naive loss threshold?
    • A guarantee that every record has the same inherent difficulty
    • Only an increased generation temperature
    • Per-example score distributions estimated from in and out models
    • A requirement that the target reveal its entire training dataset
  6. What does a properly specified differential-privacy guarantee bound?
    • Changes in output probabilities between neighboring datasets
    • A guarantee that no attack can ever make any correct guess
    • A mandatory deletion of all model outputs
    • Only the raw number of files in a training folder
  7. An attack incorrectly flags 10 of 1,000 actual nonmembers as members. What is its false-positive rate on those nonmembers?
    • 10%
    • 0.1%
    • 100%
    • 1%
  8. Why does the LiRA paper emphasize true-positive rate at low false-positive rates?
    • False positives are impossible by definition
    • Average accuracy can conceal whether confidently flagged records are reliable membership evidence
    • Every member and nonmember population must have identical sizes
    • The model’s training accuracy directly gives attack precision