Quiz collegato alla guida · Medio Livello

Quiz sull'estrazione del modello e sugli attacchi rubati

Scopri come gli aggressori imitano i modelli black-box attraverso le query, cosa rivelano gli output API e come i provider possono rilevare o scoraggiare l'estrazione.

Domanda 1 di 8

Qual è l’idea alla base di un attacco di estrazione del modello?

Anteprima di ogni domanda8 domande

Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.

  1. Qual è l’idea alla base di un attacco di estrazione del modello?
    • Interrogare il modello e addestrare un sostituto a imitarne i risultati
    • Hacking nel server per copiare direttamente i file di peso
    • Corrompere un dipendente per far trapelare il set di dati di formazione
    • Sovraccaricare l'API finché non si arresta in modo anomalo e scarica la memoria
  2. Perché la restituzione di vettori a piena probabilità semplifica l'estrazione rispetto alla restituzione solo di un'etichetta top-1?
    • Crittografa la risposta, rallentando l'aggressore
    • Perde più informazioni per query, quindi sono necessarie meno query
    • Nasconde completamente il confine della decisione
    • Aumenta il costo del server in modo che gli aggressori si arrendano
  3. Quale tecnica difensiva riduce direttamente le informazioni trapelate per query?
    • Aggiunta di più GPU al server
    • Aumento del conteggio dei parametri del modello
    • Restituzione di output arrotondati o solo primi 1
    • Pubblicare apertamente i dati di addestramento
  4. What did the 2024 production-language-model extraction paper report about GPT-3.5 Turbo?
    • It reconstructs every GPT-3.5 parameter exactly for under $20
    • It obtains the model’s training dataset directly
    • It extracts a complete model checkpoint from the API
    • It recovers the embedding-projection layer; the paper estimates under $2,000 in queries for GPT-3.5 Turbo
  5. Perché un modello sostitutivo rubato è pericoloso oltre alla semplice perdita di entrate?
    • Consente attacchi white-box offline come la creazione di esempi contraddittori
    • Migliora la precisione del modello originale
    • Elimina automaticamente il modello originale
    • È necessario riqualificare l'originale
  6. In ActiveThief, what does the combined DFAL + K-center query strategy aim to balance?
    • Boundary-proximate informative samples and reduced redundancy among selected samples
    • Exact recovery of all secret model weights and a guaranteed substitute
    • Random sampling only and avoiding all substitute-model predictions
    • Higher API throughput and removal of the query budget
  7. What can API rate limits do against a model-extraction attempt?
    • Prove that no substitute model can be trained
    • Remove all information from each permitted prediction
    • Make large-scale querying slower or more expensive
    • Make model outputs impossible to compare
  8. What does the DynaMarks paper propose for a model-extraction defense?
    • It adds a logo to every generated answer
    • It encrypts all model weights at rest
    • It guarantees ownership of every copied production model
    • It can embed a signature in a surrogate model by dynamically changing API outputs using secret parameters