Kvíz spojený s průvodcem · Střední úroveň

Kvíz o těžbě modelu a kradení

Pochopte, jak útočníci napodobují modely černých skříněk prostřednictvím dotazů, co odhalují výstupy API a jak mohou poskytovatelé odhalit nebo zabránit extrakci.

Související vodicí cestyModel Extrakce A Krádež Útoky
Otázka 1 z 8

Jaká je hlavní myšlenka útoku na extrakci modelu?

Náhled každé otázky8 otázky

Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.

  1. Jaká je hlavní myšlenka útoku na extrakci modelu?
    • Dotazování na model a trénování náhražky k napodobování jeho výstupů
    • Nabourání se do serveru za účelem přímého zkopírování souborů hmotnosti
    • Podplácení zaměstnance, aby prozradil školicí datovou sadu
    • Přetížení API, dokud se nezhroutí a nevypíše paměť
  2. Proč vracení vektorů plné pravděpodobnosti usnadňuje extrakci než vracení pouze označení top-1?
    • Zašifruje odpověď a zpomalí útočníka
    • Uniká více informací na dotaz, takže je potřeba méně dotazů
    • Zcela skrývá hranici rozhodování
    • Zvyšuje náklady na server, takže se útočníci vzdávají
  3. Která obranná technika přímo snižuje únik informací na dotaz?
    • Přidání dalších GPU na server
    • Zvýšení počtu parametrů modelu
    • Vrácení zaokrouhlených výstupů nebo výstupů pouze s horní 1
    • Otevřené zveřejňování tréninkových dat
  4. What did the 2024 production-language-model extraction paper report about GPT-3.5 Turbo?
    • It reconstructs every GPT-3.5 parameter exactly for under $20
    • It obtains the model’s training dataset directly
    • It extracts a complete model checkpoint from the API
    • It recovers the embedding-projection layer; the paper estimates under $2,000 in queries for GPT-3.5 Turbo
  5. Proč je ukradený náhradní model nebezpečný nad rámec ušlých příjmů?
    • Umožňuje offline útoky typu white-box, jako je vytváření příkladů protivníka
    • Zlepšuje přesnost původního modelu
    • Automaticky odstraní původní model
    • Je nutné přeškolit původní
  6. In ActiveThief, what does the combined DFAL + K-center query strategy aim to balance?
    • Boundary-proximate informative samples and reduced redundancy among selected samples
    • Exact recovery of all secret model weights and a guaranteed substitute
    • Random sampling only and avoiding all substitute-model predictions
    • Higher API throughput and removal of the query budget
  7. What can API rate limits do against a model-extraction attempt?
    • Prove that no substitute model can be trained
    • Remove all information from each permitted prediction
    • Make large-scale querying slower or more expensive
    • Make model outputs impossible to compare
  8. What does the DynaMarks paper propose for a model-extraction defense?
    • It adds a logo to every generated answer
    • It encrypts all model weights at rest
    • It guarantees ownership of every copied production model
    • It can embed a signature in a surrogate model by dynamically changing API outputs using secret parameters