Викторина, связанная с руководством · Средний Уровень

Викторина о штрафе за повторение и управлении декодированием

Сравните температуру, top-k, top-p и штрафы за повторение, включая изменение логитов перед выборкой в ​​рабочих процессах генерации LLM.

Связанные направляющие путиШтраф за повторение и контроль декодирования
Вопрос 1 из 8

Как повышение параметра «температура» влияет на выходные данные модели?

Предварительный просмотр каждого вопроса8 вопросы

Ответы и пояснения появляются по мере прохождения теста.

  1. Как повышение параметра «температура» влияет на выходные данные модели?
    • Делает его более случайным и разнообразным
    • Делает его более детерминированным и целенаправленным
    • Постоянно меняет вес модели
    • Ускоряет генерацию
  2. Как выборка top-p (ядро) решает, какие токены учитывать?
    • Он сохраняет фиксированное количество токенов независимо от вероятности.
    • Он хранит наименьший набор токенов, сумма вероятностей которых равна порогу.
    • Он сохраняет только один наиболее вероятный токен
    • Он сохраняет токены с вероятностью выше 50%.
  3. На каком этапе обычно действует штраф за повторение?
    • В необработанном тексте после генерации
    • По данным обучения
    • На логитах перед софтмаксом
    • О словаре токенизатора
  4. In OpenAI’s text-generation API, how do presence and frequency penalties differ?
    • Штраф за присутствие зависит от количества жетонов; штраф за частоту фиксирован
    • Они идентичны
    • Оба применяются только к первому токену
    • Frequency penalty scales with how often a token appeared; presence penalty applies once if it appeared at all
  5. For code completion where deterministic sampling is desired, which setting best matches the guide?
    • Температура около нуля
    • Очень высокая температура
    • Высокий штраф за повторение выше 2,0.
    • Топ-р 1,0 при высокой температуре
  6. Что делает выборка top-k?
    • Сохраняет суммирование токенов с вероятностью k
    • Сохраняет только k наиболее вероятных токенов в качестве кандидатов.
    • Умножает все логиты на k
    • Удаляет k наименее вероятных жетонов из обучения
  7. With a repetition penalty above 1, how does a standard logits processor adjust a previously seen token?
    • It sets every repeated-token logit to zero
    • It adds the penalty to every token equally
    • It divides a positive logit by the penalty and multiplies a negative logit by it
    • It removes the token from the vocabulary permanently
  8. How does top-k differ from top-p sampling?
    • Top-k uses cumulative probability while top-p fixes a count
    • Top-k changes model weights while top-p changes the tokenizer
    • They are both deterministic decoding methods
    • Top-k keeps a fixed number of candidates; top-p keeps a probability-mass-based set