Викторина по логит-смещению

Ответы и пояснения появляются по мере прохождения теста.

1. Что изменяет логит-смещение?
   • Оценка (логит) конкретных токенов перед выборкой
   • Тренировочные веса модели постоянно
   • Температура всей подсказки
   • Количество токенов в контекстном окне
2. Что во многих API дает логит-смещение -100 на токене?
   • Делает токен в 100 раз более вероятным
   • Эффективно запрещает создание токена
   • Удаляет токен из словаря навсегда
   • Удваивает скорость модели.
3. What numeric range does the documented OpenAI Chat Completions logit_bias accept for a token?
   • From 0 to 1 only
   • From -1 to 1 only
   • From -100 to 100
   • Any string value
4. Логит-смещение привязано к какому идентификатору?
   • Простое текстовое слово
   • Позиция предложения
   • Название модели
   • Числовой идентификатор токена
5. Поскольку логиты проходят через softmax, каков эффект добавления положительного смещения?
   • Это экспоненциально увеличивает относительный вес токена перед нормализацией.
   • Он линейно добавляет фиксированную вероятность
   • Никакого эффекта до тренировки.
   • Он удаляет токен из рассмотрения
6. Ключевое преимущество логит-смещения перед точной настройкой заключается в том, что оно:
   • Постоянно совершенствует знания модели
   • Не требует переобучения и применяется по запросу
   • Увеличивает размер контекстного окна.
   • Работает только с изображениями
7. Why should a developer inspect the tokenizer before applying a bias to a visible word?
   • Token IDs are assigned only after sampling
   • Visible words always equal one token
   • The word may be represented by several token IDs, so biasing one ID may not cover all forms
   • The tokenizer controls the model’s training data
8. What is a practical risk of applying a strong positive bias to one token?
   • It increases the context window
   • It changes the model weights permanently
   • It guarantees the token appears exactly once
   • It can distort generation or produce repetitive, awkward text