Вікторина, пов’язана з посібником · Середній Рівень
Штраф за повторення та вікторина з контролем декодування
Порівняйте температуру, top-k, top-p і покарання за повторення, зокрема те, як змінюються логіти перед вибіркою в робочих процесах генерації LLM.
Питання 1 з 8
Як підвищення параметра «температура» впливає на результат моделі?
Перегляньте кожне запитання8 запитання
Відповіді та пояснення з’являються під час виконання тесту.
- Як підвищення параметра «температура» впливає на результат моделі?
- Робить його більш довільним і різноманітним
- Робить його більш детермінованим і цілеспрямованим
- Постійно змінює ваги моделі
- Прискорює генерацію
- Як вибірка top-p (ядра) визначає, які токени розглядати?
- Він зберігає фіксовану кількість жетонів незалежно від ймовірності
- Він зберігає найменший набір токенів, сума ймовірностей яких дорівнює порогу
- Він зберігає лише один найімовірніший маркер
- Зберігає токени з ймовірністю вище 50%
- На якому етапі зазвичай діє покарання за повторення?
- На необроблений текст після генерації
- Про навчальні дані
- На логітах перед софтмаксом
- Про лексику токенізера
- In OpenAI’s text-generation API, how do presence and frequency penalties differ?
- Наявність шкал штрафів з підрахунком жетонів; штраф за частоту постійний
- Вони ідентичні
- Обидва застосовуються лише до першого токена
- Frequency penalty scales with how often a token appeared; presence penalty applies once if it appeared at all
- For code completion where deterministic sampling is desired, which setting best matches the guide?
- Температура близько нуля
- Дуже висока температура
- Високий штраф за повторення понад 2,0
- Топ-р 1,0 з високою температурою
- Що робить вибірка top-k?
- Зберігає підсумовування токенів до ймовірності k
- Зберігає лише k найбільш імовірних токенів як кандидатів
- Множить усі логіти на k
- Вилучає k найменш імовірних жетонів із навчання
- With a repetition penalty above 1, how does a standard logits processor adjust a previously seen token?
- It sets every repeated-token logit to zero
- It adds the penalty to every token equally
- It divides a positive logit by the penalty and multiplies a negative logit by it
- It removes the token from the vocabulary permanently
- How does top-k differ from top-p sampling?
- Top-k uses cumulative probability while top-p fixes a count
- Top-k changes model weights while top-p changes the tokenizer
- They are both deterministic decoding methods
- Top-k keeps a fixed number of candidates; top-p keeps a probability-mass-based set