Κουίζ που συνδέεται με οδηγό · Μεσαίο Επίπεδο

Κουίζ υπόθεσης λαχείου

Ελέγξτε την κατανόησή σας για τα λαχεία, την προετοιμασία, το κλάδεμα και τα όρια των αξιώσεων σχετικά με τα αραιά νευρωνικά δίκτυα.

Σχετικές διαδρομές οδηγώνΥπόθεση λαχείου
Ερώτηση 1 του 8

Τι είναι ένα «κερδισμένο εισιτήριο» σε αυτή την υπόθεση;

Προεπισκόπηση κάθε ερώτησης8 ερωτήσεις

Οι απαντήσεις και οι εξηγήσεις εμφανίζονται καθώς κάνετε το κουίζ.

  1. Τι είναι ένα «κερδισμένο εισιτήριο» σε αυτή την υπόθεση;
    • Ένα αραιό υποδίκτυο που, εκπαιδευμένο από την αρχική του αρχή, ταιριάζει με το πλήρες δίκτυο
    • Ένα δίκτυο με περισσότερες παραμέτρους από το συνηθισμένο
    • Ένα προεκπαιδευμένο μοντέλο που κατεβάστηκε από το διαδίκτυο
    • Ένα τυχαία εικαστικό σύνολο υπερπαραμέτρων
  2. Στα αρχικά πειράματα λαχειοφόρων αγορών, τι συνδυάστηκε με την αραιή μάσκα που ανακαλύφθηκε κατά την επανεκπαίδευση ενός εισιτηρίου;
    • Fresh random values for every surviving weight
    • The surviving weights’ matched original initialization
    • A different architecture for each pruning round
    • The final trained weights with no resetting
  3. Ποιος πρότεινε την υπόθεση του λαχείου;
    • Goodfellow (2014)
    • Krizhevsky, Sutskever, Hinton (2012)
    • Frankle and Carbin (2018)
    • Silver και συνεργάτες (2016)
  4. Ποια διαδικασία χρησιμοποίησε το αρχικό χαρτί Υπόθεσης Εισιτηρίων Λοταρίας για τον προσδιορισμό των κερδισμένων εισιτηρίων;
    • Randomly remove a fixed half of all weights once
    • Iterative magnitude pruning with a reset to the original initialization
    • Add dropout after each pruning round
    • Increase the learning rate after every epoch
  5. Πώς πρέπει να περιγραφεί η ιδέα ότι η υπερπαραμετροποίηση βοηθά τη βελτιστοποίηση να βρει μια εκπαιδεύσιμη αραιή δομή;
    • A conjecture or proposed explanation, not a result established by the original experiments
    • A theorem proven for every neural-network architecture
    • A guarantee that all weights can be removed without loss
    • A claim that pruning eliminates the need for training data
  6. What does a strong lottery-ticket result claim in its theoretical setting?
    • Every randomly initialized network already solves any task
    • A sufficiently overparameterized randomly initialized network can contain a pruned subnetwork that approximates a target without further weight training
    • Pruning always preserves the trained model’s accuracy
    • A sparse network never needs data
  7. What does iterative magnitude pruning remove at each pruning step?
    • The training examples with the lowest labels
    • The neurons with the most outgoing connections
    • Weights with the smallest magnitudes
    • All weights in the final layer
  8. Which datasets were used in the original paper’s reported lottery-ticket experiments?
    • ImageNet and COCO only
    • LibriSpeech and Common Voice
    • SQuAD and GLUE
    • MNIST and CIFAR-10