Test legat de ghid · Mediu Nivel

Chestionar pentru extracția de modele și atacuri de furt

Understand how attackers imitate black-box models through queries, what API outputs reveal, and how providers can detect or deter extraction.

Căi de ghidare aferenteAtacurile de extracție și furt de modele
Întrebare 1 de 8

Care este ideea de bază din spatele unui atac de extracție de model?

Previzualizează fiecare întrebare8 întrebări

Răspunsurile și explicațiile apar pe măsură ce susțineți testul.

  1. Care este ideea de bază din spatele unui atac de extracție de model?
    • Interogarea modelului și pregătirea unui substitut pentru a-i imita rezultatele
    • Hacking în server pentru a copia direct fișierele de greutate
    • Mituirea unui angajat pentru a scurge setul de date de instruire
    • Supraîncărcarea API-ului până când se blochează și elimină memoria
  2. De ce returnarea vectorilor de probabilitate completă face extracția mai ușoară decât returnarea doar a unei etichete de top-1?
    • Acesta criptează răspunsul, încetinind atacatorul
    • Scurge mai multe informații per interogare, astfel încât sunt necesare mai puține interogări
    • Ascunde în întregime limita deciziei
    • Mărește costul serverului, astfel încât atacatorii renunță
  3. Ce tehnică defensivă reduce direct informațiile scurse pe interogare?
    • Adăugarea mai multor GPU-uri pe server
    • Creșterea numărului de parametri ai modelului
    • Se returnează ieșiri rotunjite sau numai top-1
    • Publicarea deschisă a datelor de antrenament
  4. What did the 2024 production-language-model extraction paper report about GPT-3.5 Turbo?
    • It reconstructs every GPT-3.5 parameter exactly for under $20
    • It obtains the model’s training dataset directly
    • It extracts a complete model checkpoint from the API
    • It recovers the embedding-projection layer; the paper estimates under $2,000 in queries for GPT-3.5 Turbo
  5. De ce este un model de înlocuire furat periculos dincolo de doar veniturile pierdute?
    • Permite atacuri offline cu casete albe, cum ar fi crearea de exemple adverse
    • Îmbunătățește precizia modelului original
    • Acesta șterge automat modelul original
    • Este necesară recalificarea originalului
  6. In ActiveThief, what does the combined DFAL + K-center query strategy aim to balance?
    • Boundary-proximate informative samples and reduced redundancy among selected samples
    • Exact recovery of all secret model weights and a guaranteed substitute
    • Random sampling only and avoiding all substitute-model predictions
    • Higher API throughput and removal of the query budget
  7. What can API rate limits do against a model-extraction attempt?
    • Prove that no substitute model can be trained
    • Remove all information from each permitted prediction
    • Make large-scale querying slower or more expensive
    • Make model outputs impossible to compare
  8. What does the DynaMarks paper propose for a model-extraction defense?
    • It adds a logo to every generated answer
    • It encrypts all model weights at rest
    • It guarantees ownership of every copied production model
    • It can embed a signature in a surrogate model by dynamically changing API outputs using secret parameters