Викторина по температуре и отбору проб

Ответы и пояснения появляются по мере прохождения теста.

1. Как повышение температуры влияет на выходные данные модели?
   • Делает его более детерминированным и повторяющимся
   • Постоянно меняет вес модели
   • Отключает функцию softmax
   • Делает его более случайным и разнообразным, с большей вероятностью появления необычных жетонов.
2. Перед выборкой необработанные оценки токенов модели (логиты) преобразуются в вероятности с помощью:
   • Топ-к фильтр
   • Функция softmax
   • Обратное распространение ошибки
   • Токенизатор
3. What determines the candidate set in top-p sampling, compared with top-k?
   • Top-p always keeps exactly ten tokens
   • Both methods always keep every vocabulary token
   • Top-p uses the smallest leading set reaching a cumulative probability threshold; top-k uses a count
   • Top-k uses a cumulative threshold while top-p uses a fixed count
4. С механической точки зрения, какое влияние температура на самом деле оказывает на логиты?
   • Делит каждый логит на T перед softmax
   • Добавляет случайное число к каждому логиту
   • Удаляет самые низкие логиты
   • Умножает итоговые вероятности на T
5. For a structured-data task, what does choosing more predictable token selection fail to establish?
   • That a decoding setting was chosen
   • That the generated content is correct or valid
   • That token scores can be compared
   • That a model can produce an output
6. How does greedy decoding choose the next token?
   • It literally divides every logit by zero
   • It uniformly samples every vocabulary token
   • It permanently retrains the model
   • It selects a highest-scoring eligible token rather than sampling
7. Two token logits differ by six before temperature scaling. With positive temperature two, what is their scaled difference?
   • Три
   • Twelve
   • Шесть
   • Ноль
8. For probabilities 0.55, 0.30, 0.10, and 0.05, how many leading tokens does top-p 0.80 keep?
   • Один
   • Три
   • Два
   • Четыре