Útmutatóhoz kapcsolódó kvíz · Közepes Szint

Modell-kitermelési és lopási támadások kvíz

Understand how attackers imitate black-box models through queries, what API outputs reveal, and how providers can detect or deter extraction.

Kapcsolódó útmutató utakModell-kitermelés és lopási támadások
kérdés 1 -ból 8

Mi a modellkitermelési támadás alapötlete?

Tekintse meg az összes kérdést8 kérdéseket

A válaszok és magyarázatok megjelennek a kvíz kitöltésekor.

  1. Mi a modellkitermelési támadás alapötlete?
    • A modell lekérdezése és egy helyettesítő betanítása a kimenetek utánzására
    • Feltörni a szervert a súlyfájlok közvetlen másolásához
    • Egy alkalmazott megvesztegetése a képzési adatkészlet kiszivárogtatásáért
    • Az API túlterhelése, amíg összeomlik és kiüríti a memóriát
  2. Miért teszi egyszerűbbé a teljes valószínűségi vektorok visszaadása a kinyerést, mint az első 1. címke visszaadása?
    • Titkosítja a választ, lelassítva a támadót
    • Lekérdezésenként több információt szivárog ki, így kevesebb lekérdezésre van szükség
    • Teljesen elfedi a döntési határt
    • Ez növeli a szerver költségeit, így a támadók feladják
  3. Melyik védekező technika csökkenti közvetlenül a lekérdezésenként kiszivárgott információkat?
    • További GPU hozzáadása a szerverhez
    • A modell paraméterszámának növelése
    • Lekerekített vagy csak felső 1-es kimenetek visszaadása
    • Az edzési adatok nyílt közzététele
  4. What did the 2024 production-language-model extraction paper report about GPT-3.5 Turbo?
    • It reconstructs every GPT-3.5 parameter exactly for under $20
    • It obtains the model’s training dataset directly
    • It extracts a complete model checkpoint from the API
    • It recovers the embedding-projection layer; the paper estimates under $2,000 in queries for GPT-3.5 Turbo
  5. Miért veszélyes egy ellopott helyettesítő modell a bevételkiesésen túl?
    • Lehetővé teszi az offline fehérdobozos támadásokat, például ellenséges példák kidolgozását
    • Javítja az eredeti modell pontosságát
    • Automatikusan törli az eredeti modellt
    • Az eredetit át kell képezni
  6. In ActiveThief, what does the combined DFAL + K-center query strategy aim to balance?
    • Boundary-proximate informative samples and reduced redundancy among selected samples
    • Exact recovery of all secret model weights and a guaranteed substitute
    • Random sampling only and avoiding all substitute-model predictions
    • Higher API throughput and removal of the query budget
  7. What can API rate limits do against a model-extraction attempt?
    • Prove that no substitute model can be trained
    • Remove all information from each permitted prediction
    • Make large-scale querying slower or more expensive
    • Make model outputs impossible to compare
  8. What does the DynaMarks paper propose for a model-extraction defense?
    • It adds a logo to every generated answer
    • It encrypts all model weights at rest
    • It guarantees ownership of every copied production model
    • It can embed a signature in a surrogate model by dynamically changing API outputs using secret parameters