Gids-gekoppelde quiz · Middelmatig Niveau

Modelextractie en stelenaanvallenquiz

Begrijp hoe aanvallers black-box-modellen imiteren via query's, wat API-uitvoer onthult en hoe providers extractie kunnen detecteren of tegenhouden.

Vraag 1 van 8

Wat is het kernidee achter een modelextractieaanval?

Bekijk elke vraag8 vragen

Antwoorden en uitleg verschijnen terwijl je de quiz doet.

  1. Wat is het kernidee achter een modelextractieaanval?
    • Het model bevragen en een vervanger trainen om de resultaten ervan te imiteren
    • Hacken van de server om de gewichtsbestanden rechtstreeks te kopiëren
    • Een werknemer omkopen om de trainingsdataset te lekken
    • Overbelasting van de API totdat deze crasht en geheugen dumpt
  2. Waarom maakt het retourneren van vectoren met volledige waarschijnlijkheid de extractie eenvoudiger dan het retourneren van alleen een top-1-label?
    • Het versleutelt het antwoord, waardoor de aanvaller langzamer wordt
    • Er lekt meer informatie per zoekopdracht, waardoor er minder zoekopdrachten nodig zijn
    • Het verbergt de beslissingsgrens volledig
    • Het verhoogt de serverkosten, zodat aanvallers het opgeven
  3. Welke verdedigingstechniek vermindert direct het lekken van informatie per zoekopdracht?
    • Meer GPU's toevoegen aan de server
    • Het aantal parameters van het model verhogen
    • Retournerende afgeronde of alleen-top-1-uitvoer
    • Het openlijk publiceren van de trainingsgegevens
  4. What did the 2024 production-language-model extraction paper report about GPT-3.5 Turbo?
    • It reconstructs every GPT-3.5 parameter exactly for under $20
    • It obtains the model’s training dataset directly
    • It extracts a complete model checkpoint from the API
    • It recovers the embedding-projection layer; the paper estimates under $2,000 in queries for GPT-3.5 Turbo
  5. Waarom is een gestolen vervangingsmodel gevaarlijker dan alleen verloren inkomsten?
    • Het maakt offline white-box-aanvallen mogelijk, zoals het maken van vijandige voorbeelden
    • Het verbetert de nauwkeurigheid van het originele model
    • Het verwijdert automatisch het originele model
    • Het origineel moet opnieuw worden getraind
  6. In ActiveThief, what does the combined DFAL + K-center query strategy aim to balance?
    • Boundary-proximate informative samples and reduced redundancy among selected samples
    • Exact recovery of all secret model weights and a guaranteed substitute
    • Random sampling only and avoiding all substitute-model predictions
    • Higher API throughput and removal of the query budget
  7. What can API rate limits do against a model-extraction attempt?
    • Prove that no substitute model can be trained
    • Remove all information from each permitted prediction
    • Make large-scale querying slower or more expensive
    • Make model outputs impossible to compare
  8. What does the DynaMarks paper propose for a model-extraction defense?
    • It adds a logo to every generated answer
    • It encrypts all model weights at rest
    • It guarantees ownership of every copied production model
    • It can embed a signature in a surrogate model by dynamically changing API outputs using secret parameters