Cuestionario vinculado a una guía · Medio Nivel

Prueba de ataques de inferencia de membresía

Estudie la inferencia entre entrenamiento y membresía, con modelos de sombra, calibración LiRA, límites de privacidad diferencial, falsos positivos y evaluación de ataques.

Rutas de guía relacionadasAtaques de inferencia de membresía
Pregunta 1 de 8

¿Qué intenta determinar un ataque de inferencia de membresía?

Vista previa de cada pregunta8 preguntas

Las respuestas y explicaciones aparecen a medida que realiza el cuestionario.

  1. ¿Qué intenta determinar un ataque de inferencia de membresía?
    • Si un registro específico era parte del conjunto de entrenamiento
    • La precisión del modelo.
    • La arquitectura del modelo.
    • El tamaño del conjunto de prueba.
  2. How can overfitting affect membership-inference exposure in studied models?
    • It proves every training record is identifiable with certainty
    • It removes the need to evaluate attack errors
    • It can increase the behavioral difference between members and comparable nonmembers
    • It makes all outputs independent of training data
  3. ¿Qué técnica utilizó el estudio original de Shokri et al. de 2017? ¿En qué se basa el ataque?
    • Recorte de degradado
    • Modelos de sombra
    • búsqueda de haz
    • Tokenización
  4. ¿Por qué la inferencia de membresía puede ser perjudicial incluso sin revelar el contenido del registro?
    • Ralentiza el modelo.
    • Cambia los pesos del modelo.
    • Elimina datos de entrenamiento.
    • La membresía en sí misma puede revelar hechos delicados, como un diagnóstico.
  5. What calibration distinguishes the cited LiRA approach from a single naive loss threshold?
    • A guarantee that every record has the same inherent difficulty
    • Only an increased generation temperature
    • Per-example score distributions estimated from in and out models
    • A requirement that the target reveal its entire training dataset
  6. What does a properly specified differential-privacy guarantee bound?
    • Changes in output probabilities between neighboring datasets
    • A guarantee that no attack can ever make any correct guess
    • A mandatory deletion of all model outputs
    • Only the raw number of files in a training folder
  7. An attack incorrectly flags 10 of 1,000 actual nonmembers as members. What is its false-positive rate on those nonmembers?
    • 10%
    • 0.1%
    • 100%
    • 1%
  8. Why does the LiRA paper emphasize true-positive rate at low false-positive rates?
    • False positives are impossible by definition
    • Average accuracy can conceal whether confidently flagged records are reliable membership evidence
    • Every member and nonmember population must have identical sizes
    • The model’s training accuracy directly gives attack precision