Κουίζ εγκατάλειψης και στοχαστικής τακτοποίησης

Οι απαντήσεις και οι εξηγήσεις εμφανίζονται καθώς κάνετε το κουίζ.

1. Τι κάνει η εγκατάλειψη κατά τη διάρκεια της προπόνησης;
   • Διαγράφει οριστικά τα βάρη
   • Μηδενίζει τυχαία ένα κλάσμα εξόδων νευρώνων σε κάθε εμπρόσθιο πέρασμα
   • Διπλασιάζει το ποσοστό εκμάθησης
   • Προσθέτει περισσότερα επίπεδα στο δίκτυο
2. Γιατί η εγκατάλειψη βελτιώνει τη γενίκευση;
   • Αυξάνει τον αριθμό των παραμέτρων
   • Καταργεί την ανάγκη για δεδομένα εκπαίδευσης
   • Εγγυάται μηδενικό σφάλμα προπόνησης
   • Αποτρέπει τη συν-προσαρμογή των νευρώνων και αναγκάζει περιττές, ισχυρές αναπαραστάσεις
3. Τι συμβαίνει με την εγκατάλειψη κατά την ώρα της δοκιμής (συμπεράσματος);
   • Είναι απενεργοποιημένο και χρησιμοποιείται το πλήρες δίκτυο
   • Ρίχνει ακόμα περισσότερους νευρώνες
   • Διαγράφει τα μισά βάρη
   • Τυχαιοποιεί τις ετικέτες
4. Τι σημαίνει περίπου ένα ποσοστό εγκατάλειψης p = 0,5 σε ένα επίπεδο κατά τη διάρκεια της προπόνησης;
   • Όλοι οι νευρώνες αφαιρούνται
   • Δεν επηρεάζονται νευρώνες
   • Περίπου οι μισοί νευρώνες μηδενίζονται σε κάθε πέρασμα
   • Το επίπεδο διαγράφεται
5. Τι περιγράφεται συχνά ως προσεγγιστική εγκατάλειψη;
   • Μια ενιαία γραμμική παλινδρόμηση
   • Ένα δέντρο αποφάσεων
   • Ένας μετασχηματισμός Fourier
   • Ένα σύνολο από πολλά αραιωμένα δίκτυα που μοιράζονται βάρη
6. Σε ποιες περιπτώσεις χρησιμοποιείται η εγκατάλειψη του Μόντε Κάρλο;
   • Επιτάχυνση φόρτωσης δεδομένων
   • Εκτίμηση της αβεβαιότητας του μοντέλου διατηρώντας ενεργή την εγκατάλειψη στο συμπέρασμα
   • Συμπίεση του δικτύου σε λιγότερα βάρη
   • Αυτόματη επισήμανση των δεδομένων εκπαίδευσης
7. With inverted dropout, why is no extra activation scaling normally needed at ordinary inference?
   • The keep probability becomes exactly zero
   • Inference always averages new random masks
   • Surviving activations were already scaled during training
   • Every weight is divided by the number of layers
8. The same input yields varying predictions because dropout remains active during evaluation. What explains the variation?
   • New random masks sample different subnetworks on each pass
   • The input changes its label by itself
   • The network has no trained weights
   • Batch size must be one