Вікторина, пов’язана з посібником · Середній Рівень
Вікторина Logit Bias
Перегляньте, як зміщення логічного ідентифікатора маркера змінює вибірку, її обмеження підслов і чому елементи керування на рівні маркера можуть впливати на більше тексту, ніж було заплановано.
Питання 1 з 8
Що змінює зміщення logit?
Перегляньте кожне запитання8 запитання
Відповіді та пояснення з’являються під час виконання тесту.
- Що змінює зміщення logit?
- Оцінка (logit) конкретних токенів перед вибіркою
- Модель тренується постійно
- Температура всієї підказки
- Кількість токенів у контекстному вікні
- У багатьох API, чого досягає логітичне зміщення -100 для маркера?
- Збільшує вірогідність маркера в 100 разів
- Фактично забороняє генерацію маркера
- Назавжди видаляє лексему зі словника
- Подвоює швидкість моделі
- What numeric range does the documented OpenAI Chat Completions logit_bias accept for a token?
- From 0 to 1 only
- From -1 to 1 only
- From -100 to 100
- Any string value
- До якого ідентифікатора прив’язане логічне зміщення?
- Слово відкритого тексту
- Позиція речення
- Ім'я моделі
- Числовий ідентифікатор маркера
- Оскільки логіти передаються через softmax, який ефект від додавання позитивного зміщення?
- Це експоненціально збільшує відносну вагу токена до нормалізації
- Він лінійно додає фіксовану ймовірність
- До тренувань це не впливає
- Він знімає маркер з розгляду
- Ключовою перевагою логіт-зміщення над тонким налаштуванням є те, що воно:
- Постійно вдосконалює знання моделі
- Не потребує перенавчання та застосовується за запитом
- Збільшує розмір контекстного вікна
- Працює тільки на зображеннях
- Why should a developer inspect the tokenizer before applying a bias to a visible word?
- Token IDs are assigned only after sampling
- Visible words always equal one token
- The word may be represented by several token IDs, so biasing one ID may not cover all forms
- The tokenizer controls the model’s training data
- What is a practical risk of applying a strong positive bias to one token?
- It increases the context window
- It changes the model weights permanently
- It guarantees the token appears exactly once
- It can distort generation or produce repetitive, awkward text