Тест, свързан с ръководство · Среден Ниво

Тест за наказание за повторение и контроли за декодиране

Сравнете температурата, top-k, top-p и санкциите за повторение, включително как се променят логическите данни преди вземане на проби в работни процеси за генериране на LLM.

Свързани ръководни пътекиНаказание за повторение и контроли за декодиране
Въпрос 1 на 8

Какво прави повишаването на параметъра „температура“ на изхода на модела?

Визуализирайте всеки въпрос8 въпроси

Отговорите и обясненията се появяват, докато отговаряте на теста.

  1. Какво прави повишаването на параметъра „температура“ на изхода на модела?
    • Прави го по-случаен и разнообразен
    • Прави го по-детерминистичен и фокусиран
    • Постоянно променя теглата на модела
    • Ускорява генерирането
  2. Как вземането на проби от top-p (ядро) решава кои токени да се вземат предвид?
    • Той поддържа фиксиран брой токени, независимо от вероятността
    • Той запазва най-малкия набор от токени, чиято вероятност се равнява на праг
    • Той запазва само единичния най-вероятен токен
    • Той поддържа токени с вероятност над 50%
  3. На какъв етап обикновено действа наказанието за повторение?
    • На необработения текст след генериране
    • На данните за обучението
    • На логитите преди софтмакса
    • Относно речника на токенизатора
  4. In OpenAI’s text-generation API, how do presence and frequency penalties differ?
    • Наказателни везни за присъствие с броене на жетони; честотното наказание е плоско
    • Те са идентични
    • И двете се отнасят само за първия токен
    • Frequency penalty scales with how often a token appeared; presence penalty applies once if it appeared at all
  5. For code completion where deterministic sampling is desired, which setting best matches the guide?
    • Температура близо до нулата
    • Много висока температура
    • Голямо наказание за повторение над 2,0
    • Топ-p от 1.0 с висока температура
  6. Какво прави топ-k семплирането?
    • Поддържа токените сумирани до вероятност k
    • Запазва само k най-вероятните токена като кандидати
    • Умножава всички логически стойности по k
    • Премахва k най-малко вероятните жетони от обучението
  7. With a repetition penalty above 1, how does a standard logits processor adjust a previously seen token?
    • It sets every repeated-token logit to zero
    • It adds the penalty to every token equally
    • It divides a positive logit by the penalty and multiplies a negative logit by it
    • It removes the token from the vocabulary permanently
  8. How does top-k differ from top-p sampling?
    • Top-k uses cumulative probability while top-p fixes a count
    • Top-k changes model weights while top-p changes the tokenizer
    • They are both deterministic decoding methods
    • Top-k keeps a fixed number of candidates; top-p keeps a probability-mass-based set