Κουίζ που συνδέεται με οδηγό · Μεσαίο Επίπεδο

Κουίζ επιθέσεων συμπεράσματος μελών

Μελετήστε το συμπέρασμα εκπαίδευσης-μέλους, με σκιώδη μοντέλα, βαθμονόμηση LiRA, όρια διαφορικής ιδιωτικότητας, ψευδώς θετικά στοιχεία και αξιολόγηση επίθεσης.

Σχετικές διαδρομές οδηγώνΕπιθέσεις συμπερασμάτων μέλους
Ερώτηση 1 του 8

Τι προσπαθεί να προσδιορίσει μια επίθεση συμπερασμάτων μέλους;

Προεπισκόπηση κάθε ερώτησης8 ερωτήσεις

Οι απαντήσεις και οι εξηγήσεις εμφανίζονται καθώς κάνετε το κουίζ.

  1. Τι προσπαθεί να προσδιορίσει μια επίθεση συμπερασμάτων μέλους;
    • Το αν ένα συγκεκριμένο ρεκόρ ήταν μέρος του προπονητικού σετ
    • Η ακρίβεια του μοντέλου
    • Η αρχιτεκτονική του μοντέλου
    • Το μέγεθος του σετ δοκιμής
  2. How can overfitting affect membership-inference exposure in studied models?
    • It proves every training record is identifiable with certainty
    • It removes the need to evaluate attack errors
    • It can increase the behavioral difference between members and comparable nonmembers
    • It makes all outputs independent of training data
  3. Ποια τεχνική έκανε το αρχικό 2017 Shokri et al. επίθεση βασίζονται σε;
    • Απόκομμα ντεγκραντέ
    • Μοντέλα σκιών
    • Αναζήτηση δέσμης
    • Tokenization (Τεμαχισμός σε tokens)
  4. Γιατί το συμπέρασμα μέλους μπορεί να είναι επιβλαβές ακόμη και χωρίς να αποκαλύπτεται το περιεχόμενο του αρχείου;
    • Επιβραδύνει το μοντέλο
    • Αλλάζει τα βάρη του μοντέλου
    • Διαγράφει τα δεδομένα εκπαίδευσης
    • Η ίδια η ιδιότητα μέλους μπορεί να αποκαλύψει ευαίσθητα γεγονότα, όπως μια διάγνωση
  5. What calibration distinguishes the cited LiRA approach from a single naive loss threshold?
    • A guarantee that every record has the same inherent difficulty
    • Only an increased generation temperature
    • Per-example score distributions estimated from in and out models
    • A requirement that the target reveal its entire training dataset
  6. What does a properly specified differential-privacy guarantee bound?
    • Changes in output probabilities between neighboring datasets
    • A guarantee that no attack can ever make any correct guess
    • A mandatory deletion of all model outputs
    • Only the raw number of files in a training folder
  7. An attack incorrectly flags 10 of 1,000 actual nonmembers as members. What is its false-positive rate on those nonmembers?
    • 10%
    • 0.1%
    • 100%
    • 1%
  8. Why does the LiRA paper emphasize true-positive rate at low false-positive rates?
    • False positives are impossible by definition
    • Average accuracy can conceal whether confidently flagged records are reliable membership evidence
    • Every member and nonmember population must have identical sizes
    • The model’s training accuracy directly gives attack precision