Questionário vinculado ao guia · Médio Nível

Questionário sobre extração de modelo e ataques de roubo

Entenda como os invasores imitam modelos de caixa preta por meio de consultas, o que os resultados da API revelam e como os provedores podem detectar ou impedir a extração.

Caminhos de guia relacionadosExtração de modelo e ataques de roubo
Pergunta 1 de 8

Qual é a ideia central por trás de um ataque de extração de modelo?

Visualize cada pergunta8 perguntas

As respostas e explicações aparecem conforme você responde ao teste.

  1. Qual é a ideia central por trás de um ataque de extração de modelo?
    • Consultando o modelo e treinando um substituto para imitar seus resultados
    • Invadindo o servidor para copiar os arquivos de peso diretamente
    • Subornar um funcionário para vazar o conjunto de dados de treinamento
    • Sobrecarregando a API até ela travar e despejar memória
  2. Por que retornar vetores de probabilidade completos torna a extração mais fácil do que retornar apenas um rótulo do primeiro lugar?
    • Ele criptografa a resposta, retardando o invasor
    • Ele vaza mais informações por consulta, portanto, menos consultas são necessárias
    • Ele esconde totalmente o limite de decisão
    • Aumenta o custo do servidor para que os invasores desistam
  3. Qual técnica defensiva reduz diretamente o vazamento de informações por consulta?
    • Adicionando mais GPUs ao servidor
    • Aumentando a contagem de parâmetros do modelo
    • Retornando resultados arredondados ou somente o primeiro
    • Publicar os dados de treinamento abertamente
  4. What did the 2024 production-language-model extraction paper report about GPT-3.5 Turbo?
    • It reconstructs every GPT-3.5 parameter exactly for under $20
    • It obtains the model’s training dataset directly
    • It extracts a complete model checkpoint from the API
    • It recovers the embedding-projection layer; the paper estimates under $2,000 in queries for GPT-3.5 Turbo
  5. Por que um modelo substituto roubado é perigoso além da perda de receita?
    • Ele permite ataques de caixa branca off-line, como a criação de exemplos adversários
    • Melhora a precisão do modelo original
    • Exclui automaticamente o modelo original
    • É necessário reciclar o original
  6. In ActiveThief, what does the combined DFAL + K-center query strategy aim to balance?
    • Boundary-proximate informative samples and reduced redundancy among selected samples
    • Exact recovery of all secret model weights and a guaranteed substitute
    • Random sampling only and avoiding all substitute-model predictions
    • Higher API throughput and removal of the query budget
  7. What can API rate limits do against a model-extraction attempt?
    • Prove that no substitute model can be trained
    • Remove all information from each permitted prediction
    • Make large-scale querying slower or more expensive
    • Make model outputs impossible to compare
  8. What does the DynaMarks paper propose for a model-extraction defense?
    • It adds a logo to every generated answer
    • It encrypts all model weights at rest
    • It guarantees ownership of every copied production model
    • It can embed a signature in a surrogate model by dynamically changing API outputs using secret parameters