Κουίζ που συνδέεται με οδηγό · Σκληρό Επίπεδο

Τυπικό κουίζ δειγματοληψίας

Ελέγχει την τυπική κατάταξη έκπληξη, την κατάταξη βάσει εντροπίας, το όριο μάζας τυπικό_p και τις διαφορές από τη δειγματοληψία top-p με κατάταξη πιθανοτήτων.

Σχετικές διαδρομές οδηγώνΤυπική δειγματοληψία
Ερώτηση 1 του 8

Με ποια βασική ποσότητα συγκρίνει η τυπική δειγματοληψία κάθε υποψήφιο διακριτικό;

Προεπισκόπηση κάθε ερώτησης8 ερωτήσεις

Οι απαντήσεις και οι εξηγήσεις εμφανίζονται καθώς κάνετε το κουίζ.

  1. Με ποια βασική ποσότητα συγκρίνει η τυπική δειγματοληψία κάθε υποψήφιο διακριτικό;
    • Το αναμενόμενο πληροφοριακό περιεχόμενο (εντροπία) της διανομής
    • Το συνολικό μέγεθος λεξιλογίου του μοντέλου
    • Η θέση του συμβολικού στην πρόταση
    • Μόνο η παράμετρος θερμοκρασίας
  2. Πώς αντιμετωπίζει η τυπική δειγματοληψία το πιο πιθανό διακριτικό;
    • Πάντα το επιλέγει πρώτο
    • Μπορεί να το αποκλείσει εάν η έκπληξή του είναι πολύ κάτω από την αναμενόμενη τιμή
    • Διπλασιάζει την πιθανότητα του
    • Αγνοεί εντελώς την πιθανότητα
  3. Από ποια ιδέα για την ανθρώπινη γλώσσα υποκινήθηκε η τυπική δειγματοληψία;
    • Οι άνθρωποι επιλέγουν πάντα τις πιο σπάνιες δυνατές λέξεις
    • Οι άνθρωποι δεν επαναλαμβάνουν ποτέ λέξεις
    • Οι άνθρωποι επικοινωνούν κοντά σε έναν περίπου σταθερό ρυθμό πληροφοριών
    • Οι άνθρωποι μιλούν με προτάσεις σταθερού μήκους
  4. Τι σημαίνει η παράμετρος tau σε τυπική δειγματοληψία;
    • Το ποσοστό μάθησης κατά τη διάρκεια της εκπαίδευσης
    • Ο αριθμός των επιπέδων στο μοντέλο
    • Η μέγιστη διάρκεια ποινής
    • Η αθροιστική μάζα πιθανοτήτων που συλλέγεται στο τυπικό σύνολο
  5. Compared with greedy decoding, what does typical sampling try to change?
    • It samples from tokens whose surprisal is closer to the distribution’s expected surprisal
    • It always selects the most probable token
    • It guarantees every continuation is factually correct
    • It removes probability scores from decoding
  6. Σε ποιο είδος λογισμικού εκτίθεται συνήθως η τυπική δειγματοληψία στους προγραμματιστές;
    • Εφαρμογές υπολογιστικών φύλλων
    • Βιβλιοθήκες συμπερασμάτων LLM ανοιχτού κώδικα, όπως το Hugging Face Transformers
    • Εργαλεία επεξεργασίας εικόνας
    • Μηχανές αναζήτησης βάσεων δεδομένων
  7. How does typical sampling rank candidate tokens differently from top-p sampling?
    • By alphabetical order of token strings
    • By token position in the prompt
    • By distance between token surprisal and expected surprisal, rather than probability rank alone
    • By the model’s training loss
  8. Which value does typical_p control?
    • The model’s vocabulary size
    • The number of transformer layers
    • The probability that the answer is factually correct
    • The target cumulative probability mass collected in the typical set