Κουίζ για μοντέλα με βάση την ενέργεια

Οι απαντήσεις και οι εξηγήσεις εμφανίζονται καθώς κάνετε το κουίζ.

1. Σε ένα μοντέλο που βασίζεται στην ενέργεια, πώς σχετίζεται η ενέργεια με την πιθανότητα ενός σημείου δεδομένων;
   • Υψηλή ενέργεια σημαίνει μεγάλη πιθανότητα
   • Χαμηλή ενέργεια σημαίνει υψηλή πιθανότητα (το p(x) είναι ανάλογο με το exp(-E(x)))
   • Η ενέργεια και η πιθανότητα δεν έχουν σχέση
   • Η πιθανότητα ισούται άμεσα με την ενέργεια
2. Τι δυσκολεύει τα μοντέλα εκπαίδευσης που βασίζονται στην ενέργεια;
   • Η ενεργειακή συνάρτηση δεν μπορεί να είναι ένα νευρωνικό δίκτυο
   • Απαιτούν μόνο δεδομένα με ετικέτα
   • Δεν μπορούν να αναπαραστήσουν εικόνες
   • Η συνάρτηση διαμερίσματος Z (κανονικοποιητής σε όλες τις εισόδους) είναι συνήθως δύσκολο να υπολογιστεί
3. Ποια μέθοδος δειγματοληψίας χρησιμοποιείται συνήθως για τη λήψη δειγμάτων από ένα EBM;
   • Δυναμική Langevin (MCMC με βάση την κλίση)
   • Αναζήτηση δέσμης
   • Γρήγορη ταξινόμηση
   • Μία μόνο πάσα προς τα εμπρός
4. Γιατί μέθοδοι όπως η αντιστοίχιση βαθμολογίας μπορούν να αποφύγουν τον υπολογισμό της συνάρτησης διαμερίσματος Z;
   • Επειδή το Z είναι πάντα ίσο με 1
   • Επειδή αγνοούν την ενεργειακή συνάρτηση
   • Επειδή η διαβάθμιση του log p(x) είναι -βαθμίδα του E(x), και το Z (μια σταθερά στο x) πέφτει κατά τη διαφοροποίηση
   • Επειδή λειτουργούν μόνο σε διακριτά δεδομένα
5. Ποιο από αυτά είναι ένα κλασικό μοντέλο που βασίζεται στην ενέργεια;
   • Ο Μετασχηματιστής
   • Το δέντρο αποφάσεων
   • Ο αλγόριθμος k-means
   • Το δίκτυο Hopfield
6. For a differentiable EBM density with Z constant in x, how does its score relate to energy?
   • The score equals the partition function itself
   • The score equals the negative input gradient of energy
   • The score ignores the learned energy entirely
   • The score is always the positive energy gradient
7. An EBM adds the same constant c to every E(x). What happens to normalized probabilities?
   • Every probability increases by c
   • All inputs become equally probable
   • They remain unchanged after the partition function is adjusted
   • The normalizer must be set to zero
8. For two configurations with E(a) lower than E(b), what follows under the same normalized Gibbs model?
   • Configuration a has greater probability than b
   • Configuration b has greater probability because its energy is higher
   • Both probabilities must be exactly one
   • The comparison requires different partition functions for each point