Κουίζ που συνδέεται με οδηγό · Μεσαίο Επίπεδο

Κουίζ Logit Bias

Ελέγξτε πώς η μεροληψία logit του token-ID αλλάζει τη δειγματοληψία, τους περιορισμούς των υπολέξεων και γιατί τα στοιχεία ελέγχου σε επίπεδο διακριτικού μπορούν να επηρεάσουν περισσότερο κείμενο από το προβλεπόμενο.

Σχετικές διαδρομές οδηγώνLogit Bias
Ερώτηση 1 του 8

Τι τροποποιεί το logit bias;

Προεπισκόπηση κάθε ερώτησης8 ερωτήσεις

Οι απαντήσεις και οι εξηγήσεις εμφανίζονται καθώς κάνετε το κουίζ.

  1. Τι τροποποιεί το logit bias;
    • Η βαθμολογία (logit) συγκεκριμένων κουπονιών πριν από τη δειγματοληψία
    • Τα βάρη προπόνησης του μοντέλου είναι μόνιμα
    • Η θερμοκρασία της όλης προτροπής
    • Ο αριθμός των διακριτικών στο παράθυρο περιβάλλοντος
  2. Σε πολλά API, τι επιτυγχάνει μια προκατάληψη logit -100 σε ένα διακριτικό;
    • Κάνει το διακριτικό 100 φορές πιο πιθανό
    • Αποτρέπει ουσιαστικά τη δημιουργία του διακριτικού
    • Διαγράφει το διακριτικό από το λεξιλόγιο για πάντα
    • Διπλασιάζει την ταχύτητα του μοντέλου
  3. What numeric range does the documented OpenAI Chat Completions logit_bias accept for a token?
    • From 0 to 1 only
    • From -1 to 1 only
    • From -100 to 100
    • Any string value
  4. Η μεροληψία Logit συνδέεται με ποιο αναγνωριστικό;
    • Η λέξη απλού κειμένου
    • Η θέση της πρότασης
    • Το όνομα του μοντέλου
    • Το αριθμητικό αναγνωριστικό διακριτικού
  5. Επειδή τα logit διέρχονται μέσω ενός softmax, ποιο είναι το αποτέλεσμα της προσθήκης θετικής προκατάληψης;
    • Αυξάνει εκθετικά το σχετικό βάρος του διακριτικού πριν από την κανονικοποίηση
    • Προσθέτει γραμμικά μια σταθερή πιθανότητα
    • Δεν έχει αποτέλεσμα μέχρι την προπόνηση
    • Αφαιρεί το διακριτικό από την εξέταση
  6. Ένα βασικό πλεονέκτημα της μεροληψίας logit έναντι της μικρορύθμισης είναι ότι:
    • Βελτιώνει μόνιμα τις γνώσεις του μοντέλου
    • Δεν απαιτεί επανεκπαίδευση και ισχύει ανά αίτημα
    • Αυξάνει το μέγεθος του παραθύρου περιβάλλοντος
    • Λειτουργεί μόνο σε εικόνες
  7. Why should a developer inspect the tokenizer before applying a bias to a visible word?
    • Token IDs are assigned only after sampling
    • Visible words always equal one token
    • The word may be represented by several token IDs, so biasing one ID may not cover all forms
    • The tokenizer controls the model’s training data
  8. What is a practical risk of applying a strong positive bias to one token?
    • It increases the context window
    • It changes the model weights permanently
    • It guarantees the token appears exactly once
    • It can distort generation or produce repetitive, awkward text