Κουίζ που συνδέεται με οδηγό · Μεσαίο Επίπεδο

Κουίζ εξαγωγής και κλοπής επιθέσεων

Κατανοήστε πώς οι εισβολείς μιμούνται μοντέλα μαύρου κουτιού μέσω ερωτημάτων, τι αποκαλύπτουν οι έξοδοι API και πώς οι πάροχοι μπορούν να εντοπίσουν ή να αποτρέψουν την εξαγωγή.

Σχετικές διαδρομές οδηγώνΕπιθέσεις εξαγωγής και κλοπής μοντέλου
Ερώτηση 1 του 8

Ποια είναι η βασική ιδέα πίσω από μια επίθεση εξαγωγής μοντέλου;

Προεπισκόπηση κάθε ερώτησης8 ερωτήσεις

Οι απαντήσεις και οι εξηγήσεις εμφανίζονται καθώς κάνετε το κουίζ.

  1. Ποια είναι η βασική ιδέα πίσω από μια επίθεση εξαγωγής μοντέλου;
    • Αναζητώντας το μοντέλο και εκπαιδεύοντας ένα υποκατάστατο για μίμηση των αποτελεσμάτων του
    • Εισβολή στον διακομιστή για απευθείας αντιγραφή των αρχείων βάρους
    • Δωροδοκία υπαλλήλου για να διαρρεύσει το σύνολο δεδομένων εκπαίδευσης
    • Υπερφόρτωση του API μέχρι να διακοπεί και να απομακρυνθεί η μνήμη
  2. Γιατί η επιστροφή διανυσμάτων πλήρους πιθανότητας κάνει την εξαγωγή ευκολότερη από την επιστροφή μόνο μιας ετικέτας top-1;
    • Κρυπτογραφεί την απόκριση, επιβραδύνοντας τον εισβολέα
    • Διαρρέει περισσότερες πληροφορίες ανά ερώτημα, επομένως χρειάζονται λιγότερα ερωτήματα
    • Κρύβει εντελώς το όριο της απόφασης
    • Αυξάνει το κόστος του διακομιστή, έτσι οι εισβολείς εγκαταλείπουν
  3. Ποια αμυντική τεχνική μειώνει άμεσα τις πληροφορίες που διαρρέουν ανά ερώτημα;
    • Προσθήκη περισσότερων GPU στον διακομιστή
    • Αύξηση του αριθμού παραμέτρων του μοντέλου
    • Επιστρέφοντας στρογγυλεμένες ή μόνο εξόδους top-1
    • Δημοσίευση των δεδομένων εκπαίδευσης ανοιχτά
  4. What did the 2024 production-language-model extraction paper report about GPT-3.5 Turbo?
    • It reconstructs every GPT-3.5 parameter exactly for under $20
    • It obtains the model’s training dataset directly
    • It extracts a complete model checkpoint from the API
    • It recovers the embedding-projection layer; the paper estimates under $2,000 in queries for GPT-3.5 Turbo
  5. Γιατί ένα κλεμμένο υποκατάστατο είναι επικίνδυνο πέρα από τα απλά χαμένα έσοδα;
    • Επιτρέπει επιθέσεις λευκού κουτιού εκτός σύνδεσης, όπως τη δημιουργία παραδειγμάτων αντιπάλου
    • Βελτιώνει την ακρίβεια του αρχικού μοντέλου
    • Διαγράφει αυτόματα το αρχικό μοντέλο
    • Απαιτείται η επανεκπαίδευση του πρωτοτύπου
  6. In ActiveThief, what does the combined DFAL + K-center query strategy aim to balance?
    • Boundary-proximate informative samples and reduced redundancy among selected samples
    • Exact recovery of all secret model weights and a guaranteed substitute
    • Random sampling only and avoiding all substitute-model predictions
    • Higher API throughput and removal of the query budget
  7. What can API rate limits do against a model-extraction attempt?
    • Prove that no substitute model can be trained
    • Remove all information from each permitted prediction
    • Make large-scale querying slower or more expensive
    • Make model outputs impossible to compare
  8. What does the DynaMarks paper propose for a model-extraction defense?
    • It adds a logo to every generated answer
    • It encrypts all model weights at rest
    • It guarantees ownership of every copied production model
    • It can embed a signature in a surrogate model by dynamically changing API outputs using secret parameters