Κουίζ μοντελοποίησης μεγάλου πλαισίου

Οι απαντήσεις και οι εξηγήσεις εμφανίζονται καθώς κάνετε το κουίζ.

1. Τι σημαίνει το «παράθυρο περιβάλλοντος» ενός μοντέλου;
   • Ο μέγιστος αριθμός κουπονιών που μπορεί να παρακολουθήσει σε ένα πέρασμα
   • Το μέγεθος οθόνης της διεπαφής συνομιλίας
   • Ο αριθμός των επιτρεπόμενων χρηστών ταυτόχρονα
   • Πόσο καιρό έχει εκπαιδευτεί το μοντέλο
2. Γιατί η τυπική αυτοπροσοχή γίνεται ακριβή για μεγάλες εισροές;
   • Αναπτύσσεται γραμμικά και είναι πάντα φθηνό
   • Ο υπολογισμός και η μνήμη του αυξάνονται τετραγωνικά με το μήκος της ακολουθίας
   • Δεν μπορεί να διαβάσει περισσότερα από ένα διακριτικά
   • Λειτουργεί μόνο σε εικόνες
3. Ποιο είναι το πρόβλημα «χαμένος στη μέση»;
   • Τα μοντέλα ξεχνούν εντελώς την εκπαίδευσή τους
   • Τα μοντέλα μπορούν να διαβάσουν μόνο τη μέση ενός εγγράφου
   • Τα μοντέλα ανακαλούν πληροφορίες στην αρχή και στο τέλος μιας μεγάλης εισαγωγής καλύτερα από τα γεγονότα που είναι θαμμένα στη μέση
   • Τα μοντέλα μεταφράζουν τη μέση σε άλλη γλώσσα
4. Τι βελτιώνει κυρίως το FlashAttention;
   • Κάνει το μοντέλο να παράγει μεγαλύτερο κείμενο
   • Προσθέτει αυτόματα περισσότερα δεδομένα εκπαίδευσης
   • Αφαιρεί την ανάγκη για κάθε προσοχή
   • Μειώνει το σημείο συμφόρησης της μνήμης με έναν υπολογισμό με πλακίδια με επίγνωση IO
5. Τι ρόλο παίζουν οι ενσωματώσεις περιστροφικής θέσης (RoPE) σε μοντέλα μεγάλου πλαισίου;
   • Κωδικοποιούν θέσεις διακριτικών και, με παρεμβολή, βοηθούν στη γενίκευση σε μεγαλύτερες ακολουθίες
   • Διαγράφουν διακριτικά από την είσοδο
   • Μεταφράζουν κείμενο μεταξύ γλωσσών
   • Αποθηκεύουν τα βάρη του μοντέλου
6. What does prompt-cache research reuse across compatible requests?
   • The final answer regardless of the new query
   • Computed attention state for reusable prompt segments
   • A fixed set of token IDs without model computation
   • The model’s training data
7. What does the RULER benchmark add beyond locating one isolated “needle” fact?
   • Μόνο ταξινόμηση εικόνων
   • Audio transcription from waveforms
   • Tasks such as multi-hop tracing and aggregation over long contexts
   • GPU memory allocation benchmarks
8. Why test several task types when measuring a model’s effective context length?
   • Every task uses the same computation
   • The advertised window guarantees all tasks work
   • Task type never affects context use
   • A model may handle simple retrieval yet fail to combine or track information across a long input