Kvíz spojený s průvodcem · Střední úroveň
Kvíz o těžbě modelu a kradení
Pochopte, jak útočníci napodobují modely černých skříněk prostřednictvím dotazů, co odhalují výstupy API a jak mohou poskytovatelé odhalit nebo zabránit extrakci.
Otázka 1 z 8
Jaká je hlavní myšlenka útoku na extrakci modelu?
Náhled každé otázky8 otázky
Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.
- Jaká je hlavní myšlenka útoku na extrakci modelu?
- Dotazování na model a trénování náhražky k napodobování jeho výstupů
- Nabourání se do serveru za účelem přímého zkopírování souborů hmotnosti
- Podplácení zaměstnance, aby prozradil školicí datovou sadu
- Přetížení API, dokud se nezhroutí a nevypíše paměť
- Proč vracení vektorů plné pravděpodobnosti usnadňuje extrakci než vracení pouze označení top-1?
- Zašifruje odpověď a zpomalí útočníka
- Uniká více informací na dotaz, takže je potřeba méně dotazů
- Zcela skrývá hranici rozhodování
- Zvyšuje náklady na server, takže se útočníci vzdávají
- Která obranná technika přímo snižuje únik informací na dotaz?
- Přidání dalších GPU na server
- Zvýšení počtu parametrů modelu
- Vrácení zaokrouhlených výstupů nebo výstupů pouze s horní 1
- Otevřené zveřejňování tréninkových dat
- What did the 2024 production-language-model extraction paper report about GPT-3.5 Turbo?
- It reconstructs every GPT-3.5 parameter exactly for under $20
- It obtains the model’s training dataset directly
- It extracts a complete model checkpoint from the API
- It recovers the embedding-projection layer; the paper estimates under $2,000 in queries for GPT-3.5 Turbo
- Proč je ukradený náhradní model nebezpečný nad rámec ušlých příjmů?
- Umožňuje offline útoky typu white-box, jako je vytváření příkladů protivníka
- Zlepšuje přesnost původního modelu
- Automaticky odstraní původní model
- Je nutné přeškolit původní
- In ActiveThief, what does the combined DFAL + K-center query strategy aim to balance?
- Boundary-proximate informative samples and reduced redundancy among selected samples
- Exact recovery of all secret model weights and a guaranteed substitute
- Random sampling only and avoiding all substitute-model predictions
- Higher API throughput and removal of the query budget
- What can API rate limits do against a model-extraction attempt?
- Prove that no substitute model can be trained
- Remove all information from each permitted prediction
- Make large-scale querying slower or more expensive
- Make model outputs impossible to compare
- What does the DynaMarks paper propose for a model-extraction defense?
- It adds a logo to every generated answer
- It encrypts all model weights at rest
- It guarantees ownership of every copied production model
- It can embed a signature in a surrogate model by dynamically changing API outputs using secret parameters