Cuestionario vinculado a una guía · Medio Nivel

Prueba de ataques de extracción y robo de modelos

Comprenda cómo los atacantes imitan los modelos de caja negra a través de consultas, qué revelan los resultados de la API y cómo los proveedores pueden detectar o impedir la extracción.

Rutas de guía relacionadasAtaques de extracción y robo de modelos
Pregunta 1 de 8

¿Cuál es la idea central detrás de un ataque de extracción de modelos?

Vista previa de cada pregunta8 preguntas

Las respuestas y explicaciones aparecen a medida que realiza el cuestionario.

  1. ¿Cuál es la idea central detrás de un ataque de extracción de modelos?
    • Consultar el modelo y entrenar a un sustituto para imitar sus resultados.
    • Hackear el servidor para copiar los archivos de peso directamente
    • Sobornar a un empleado para que filtre el conjunto de datos de formación
    • Sobrecargar la API hasta que falla y vacía la memoria
  2. ¿Por qué devolver vectores de probabilidad total hace que la extracción sea más fácil que devolver solo una etiqueta de primer nivel?
    • Cifra la respuesta, lo que ralentiza al atacante.
    • Filtra más información por consulta, por lo que se necesitan menos consultas
    • Oculta el límite de decisión por completo.
    • Aumenta el costo del servidor para que los atacantes se rindan
  3. ¿Qué técnica defensiva reduce directamente la información filtrada por consulta?
    • Agregar más GPU al servidor
    • Aumentar el recuento de parámetros del modelo.
    • Devolver resultados redondeados o solo top 1
    • Publicar los datos de entrenamiento abiertamente
  4. What did the 2024 production-language-model extraction paper report about GPT-3.5 Turbo?
    • It reconstructs every GPT-3.5 parameter exactly for under $20
    • It obtains the model’s training dataset directly
    • It extracts a complete model checkpoint from the API
    • It recovers the embedding-projection layer; the paper estimates under $2,000 in queries for GPT-3.5 Turbo
  5. ¿Por qué un modelo sustituto robado es peligroso más allá de la simple pérdida de ingresos?
    • Permite ataques de caja blanca fuera de línea, como la creación de ejemplos contradictorios.
    • Mejora la precisión del modelo original.
    • Elimina automáticamente el modelo original.
    • Es necesario volver a entrenar al original.
  6. In ActiveThief, what does the combined DFAL + K-center query strategy aim to balance?
    • Boundary-proximate informative samples and reduced redundancy among selected samples
    • Exact recovery of all secret model weights and a guaranteed substitute
    • Random sampling only and avoiding all substitute-model predictions
    • Higher API throughput and removal of the query budget
  7. What can API rate limits do against a model-extraction attempt?
    • Prove that no substitute model can be trained
    • Remove all information from each permitted prediction
    • Make large-scale querying slower or more expensive
    • Make model outputs impossible to compare
  8. What does the DynaMarks paper propose for a model-extraction defense?
    • It adds a logo to every generated answer
    • It encrypts all model weights at rest
    • It guarantees ownership of every copied production model
    • It can embed a signature in a surrogate model by dynamically changing API outputs using secret parameters