Quiz sur l'extraction de modèles et les attaques de vol

Les réponses et les explications apparaissent au fur et à mesure que vous répondez au quiz.

1. Quelle est l’idée centrale d’une attaque d’extraction de modèle ?
   • Interroger le modèle et former un substitut pour imiter ses résultats
   • Piratage du serveur pour copier directement les fichiers de poids
   • Soudoyer un employé pour qu'il divulgue l'ensemble de données de formation
   • Surcharger l'API jusqu'à ce qu'elle plante et vide la mémoire
2. Pourquoi le renvoi de vecteurs de probabilité complète rend-il l'extraction plus facile que le renvoi d'une seule étiquette top-1 ?
   • Il crypte la réponse, ralentissant l'attaquant
   • Il divulgue plus d'informations par requête, donc moins de requêtes sont nécessaires
   • Il cache entièrement la limite de décision
   • Cela augmente le coût du serveur et les attaquants abandonnent
3. Quelle technique défensive réduit directement les informations divulguées par requête ?
   • Ajouter plus de GPU au serveur
   • Augmenter le nombre de paramètres du modèle
   • Renvoi de sorties arrondies ou top 1 uniquement
   • Publier ouvertement les données de formation
4. What did the 2024 production-language-model extraction paper report about GPT-3.5 Turbo?
   • It reconstructs every GPT-3.5 parameter exactly for under $20
   • It obtains the model’s training dataset directly
   • It extracts a complete model checkpoint from the API
   • It recovers the embedding-projection layer; the paper estimates under $2,000 in queries for GPT-3.5 Turbo
5. Pourquoi un modèle de remplacement volé est-il dangereux au-delà de la simple perte de revenus ?
   • Il permet des attaques en boîte blanche hors ligne, comme la création d'exemples contradictoires.
   • Il améliore la précision du modèle original
   • Il supprime automatiquement le modèle original
   • Il est nécessaire de recycler l'original
6. In ActiveThief, what does the combined DFAL + K-center query strategy aim to balance?
   • Boundary-proximate informative samples and reduced redundancy among selected samples
   • Exact recovery of all secret model weights and a guaranteed substitute
   • Random sampling only and avoiding all substitute-model predictions
   • Higher API throughput and removal of the query budget
7. What can API rate limits do against a model-extraction attempt?
   • Prove that no substitute model can be trained
   • Remove all information from each permitted prediction
   • Make large-scale querying slower or more expensive
   • Make model outputs impossible to compare
8. What does the DynaMarks paper propose for a model-extraction defense?
   • It adds a logo to every generated answer
   • It encrypts all model weights at rest
   • It guarantees ownership of every copied production model
   • It can embed a signature in a surrogate model by dynamically changing API outputs using secret parameters