Κουίζ κερδοσκοπικής επαλήθευσης δειγματοληψίας

Οι απαντήσεις και οι εξηγήσεις εμφανίζονται καθώς κάνετε το κουίζ.

1. Ποια είναι η βασική ιδέα πίσω από την κερδοσκοπική δειγματοληψία;
   • Χρησιμοποιήστε ένα μικρό πρόχειρο μοντέλο για να προτείνετε πολλά διακριτικά που ένα μεγάλο μοντέλο επαληθεύει παράλληλα
   • Εκπαιδεύστε ένα γιγάντιο μοντέλο για να παραλείπει δυναμικά επίπεδα
   • Αποθηκεύστε κάθε δυνατή πρόταση εκ των προτέρων
   • Αντικαταστήστε τη δειγματοληψία με άπληστη αποκωδικοποίηση για εξοικονόμηση χρόνου
2. Γιατί η κερδοσκοπική δειγματοληψία δεν υποβαθμίζει την ποιότητα της παραγωγής;
   • Γιατί το πρόχειρο μοντέλο είναι πάντα σωστό
   • Επειδή ο κανόνας επαλήθευσης καθιστά την τελική διανομή πανομοιότυπη με τη δειγματοληψία καθαρού στόχου
   • Επειδή λειτουργεί μόνο σε σύντομες προτροπές
   • Επειδή υπολογίζει τον μέσο όρο των εξόδων των δύο μοντέλων
3. In exact speculative sampling, what happens when a drafted token is rejected?
   • It outputs the rejected draft token unchanged
   • It discards the entire conversation and restarts
   • The algorithm samples from a corrected residual distribution at that position
   • It permanently changes the target model
4. Under exact speculative sampling, what is guaranteed about the output distribution?
   • It is always deterministic
   • It matches the draft model’s distribution instead
   • It is more diverse than every target-model output
   • It matches the target model’s sampling distribution
5. What information does the target verification pass provide in exact speculative sampling?
   • Target probabilities for proposed positions, used for acceptance tests and residual resampling
   • A guarantee that no target-model computation is needed
   • Only the draft model’s next-token distribution
   • A corrected token sequence without any sampling
6. Which description correctly distinguishes two self-speculative approaches?
   • Both use only an unrelated small draft model
   • Medusa adds prediction heads, while EAGLE uses feature-space proposals
   • Medusa is a tokenizer and EAGLE is a reward model
   • Both remove the target model from decoding
7. The draft assigns probability 0.8 to a token and the target assigns 0.4. What is the speculative acceptance probability?
   • 0.2
   • 0.4
   • 0,5
   • 1.0
8. What most limits speculative sampling’s realized speedup?
   • The color of the model’s interface
   • The target model’s name length
   • Whether the prompt contains punctuation
   • The draft-model cost and how much proposed work the target accepts