Κουίζ Μηχανιστικής Ερμηνείας

Οι απαντήσεις και οι εξηγήσεις εμφανίζονται καθώς κάνετε το κουίζ.

1. Ποιος είναι ο κεντρικός στόχος της μηχανιστικής ερμηνείας;
   • Για την αντίστροφη μηχανική των εσωτερικών υπολογισμών ενός δικτύου σε αλγόριθμους κατανοητούς από τον άνθρωπο
   • Για να κάνετε τα μοντέλα να εκπαιδεύονται πιο γρήγορα
   • Για συμπίεση μοντέλων για φορητές συσκευές
   • Για να ταξινομήσετε τα χαρακτηριστικά εισόδου μόνο κατά σημασία
2. Τι σημαίνει «υπέρθεση» σε ένα νευρωνικό δίκτυο;
   • Στοιβάζοντας πολλά μοντέλα μαζί
   • Αντιπροσώπευση περισσότερων χαρακτηριστικών από ό,τι υπάρχουν διαστάσεις χρησιμοποιώντας αλληλοκαλυπτόμενες οδηγίες
   • Εκτέλεση ενός μοντέλου σε πολλαπλές GPU
   • Μέσος όρος προβλέψεων από διαφορετικές διαδρομές
3. Οι αραιοί αυτοκωδικοποιητές χρησιμοποιούνται στη μηχανιστική ερμηνευτικότητα κυρίως για...
   • Δημιουργήστε δεδομένα εκπαίδευσης
   • Επιταχύνετε το συμπέρασμα
   • Διαχωρίστε τις πολυσηματικές ενεργοποιήσεις σε πιο καθαρά, πιο ερμηνεύσιμα χαρακτηριστικά
   • Κρυπτογράφηση βαρών μοντέλου
4. Τι είναι οι «κεφαλές επαγωγής»;
   • Επιταχυντές υλικού για μετασχηματιστές
   • Επίπεδα εξόδου που δημιουργούν κείμενο
   • Ένας τύπος συνάρτησης απώλειας
   • Κεφαλές προσοχής που αντιγράφουν και συνεχίζουν επαναλαμβανόμενα μοτίβα διακριτικών, υποστηρίζοντας τη μάθηση εντός του πλαισίου
5. Πώς επιβεβαιώνουν οι ερευνητές ότι ένα κύκλωμα που ανακαλύφθηκε εκτελεί πραγματικά έναν υποτιθέμενο υπολογισμό;
   • Μέσω αιτιωδών παρεμβάσεων όπως η αφαίρεση ή η επιδιόρθωση συγκεκριμένων ενεργοποιήσεων
   • Ελέγχοντας την ακρίβεια εκπαίδευσης του μοντέλου
   • Μετρώντας τον αριθμό των παραμέτρων
   • Με τη μέτρηση της καθυστέρησης συμπερασμάτων
6. What is a cautious safety-related reason to study mechanistic interpretability?
   • It proves every hidden behavior can already be found
   • It may provide evidence about internal computations, while current methods are not a complete audit or direct steering guarantee
   • It guarantees a model will follow any requested correction
   • It replaces evaluations of model behavior in deployment
7. If a sparse autoencoder feature activates on examples described as “Golden Gate Bridge,” what does that observation establish?
   • The entire model’s computation is now explained
   • The feature is guaranteed to be a single neuron
   • A candidate feature correlates with those examples and needs further testing to establish its role
   • The feature causes every bridge-related output
8. Why test a candidate feature across varied prompts and examples?
   • Proof that the model has no other relevant circuits
   • A guarantee that the explanation generalizes to every prompt
   • A replacement for inspecting model behavior
   • To check whether the observed activation pattern generalizes beyond selected examples