Mit dem Guide verknüpftes Quiz · Mittel Ebene

Quiz zur Modellextraktion und zum Diebstahl von Angriffen

Verstehen Sie, wie Angreifer Black-Box-Modelle durch Abfragen imitieren, was API-Ausgaben offenbaren und wie Anbieter die Extraktion erkennen oder verhindern können.

Verwandte FührungspfadeModellextraktion und Diebstahlangriffe
Frage 1 von 8

Was ist die Kernidee hinter einem Modellextraktionsangriff?

Sehen Sie sich jede Frage in der Vorschau an8 Fragen

Während Sie am Quiz teilnehmen, werden Antworten und Erklärungen angezeigt.

  1. Was ist die Kernidee hinter einem Modellextraktionsangriff?
    • Abfragen des Modells und Trainieren eines Ersatzes, um seine Ausgaben zu imitieren
    • Hacken Sie sich in den Server, um die Gewichtsdateien direkt zu kopieren
    • Bestechung eines Mitarbeiters, um den Trainingsdatensatz preiszugeben
    • Überlastung der API, bis sie abstürzt und Speicher verliert
  2. Warum macht die Rückgabe vollständiger Wahrscheinlichkeitsvektoren die Extraktion einfacher als die Rückgabe nur eines Top-1-Labels?
    • Es verschlüsselt die Antwort und verlangsamt so den Angreifer
    • Pro Abfrage gehen mehr Informationen verloren, sodass weniger Abfragen erforderlich sind
    • Es verbirgt die Entscheidungsgrenze vollständig
    • Es erhöht die Serverkosten, sodass Angreifer aufgeben
  3. Welche Abwehrtechnik reduziert direkt die pro Abfrage durchgesickerten Informationen?
    • Hinzufügen weiterer GPUs zum Server
    • Erhöhen der Parameteranzahl des Modells
    • Gibt gerundete oder nur Top-1-Ausgaben zurück
    • Offene Veröffentlichung der Trainingsdaten
  4. What did the 2024 production-language-model extraction paper report about GPT-3.5 Turbo?
    • It reconstructs every GPT-3.5 parameter exactly for under $20
    • It obtains the model’s training dataset directly
    • It extracts a complete model checkpoint from the API
    • It recovers the embedding-projection layer; the paper estimates under $2,000 in queries for GPT-3.5 Turbo
  5. Warum ist ein gestohlenes Ersatzmodell über den bloßen Umsatzverlust hinaus gefährlich?
    • Es ermöglicht Offline-White-Box-Angriffe wie die Erstellung gegnerischer Beispiele
    • Es verbessert die Genauigkeit des Originalmodells
    • Das Originalmodell wird automatisch gelöscht
    • Es ist erforderlich, das Original neu zu trainieren
  6. In ActiveThief, what does the combined DFAL + K-center query strategy aim to balance?
    • Boundary-proximate informative samples and reduced redundancy among selected samples
    • Exact recovery of all secret model weights and a guaranteed substitute
    • Random sampling only and avoiding all substitute-model predictions
    • Higher API throughput and removal of the query budget
  7. What can API rate limits do against a model-extraction attempt?
    • Prove that no substitute model can be trained
    • Remove all information from each permitted prediction
    • Make large-scale querying slower or more expensive
    • Make model outputs impossible to compare
  8. What does the DynaMarks paper propose for a model-extraction defense?
    • It adds a logo to every generated answer
    • It encrypts all model weights at rest
    • It guarantees ownership of every copied production model
    • It can embed a signature in a surrogate model by dynamically changing API outputs using secret parameters