Тест, свързан с ръководство · Среден Ниво

Тест за контрастно декодиране

Тества експертно-аматьорско оценяване, потискане на споделени токени, филтриране на правдоподобност, използване на време за декодиране и оценка на контрастно генериране.

Свързани ръководни пътекиКонтрастно декодиране
Въпрос 1 на 8

При контрастното декодиране каква роля играе малкият „аматьорски“ модел?

Визуализирайте всеки въпрос8 въпроси

Отговорите и обясненията се появяват, докато отговаряте на теста.

  1. При контрастното декодиране каква роля играе малкият „аматьорски“ модел?
    • Неговите логаритмични вероятности се изваждат, за да се потиснат споделените режими на отказ
    • Той генерира директно крайния изходен текст
    • Настройва се фино според грешките на експерта
    • Той замества експерта, когато експертът е несигурен
  2. Защо изваждането на вероятностите на аматьора намалява повторението и скучния изход?
    • Аматьорът е обучен никога да не повтаря думи
    • Общите и повтарящите се токени са предпочитани и от двата модела, така че контрастът ги отменя
    • Аматьорът изтрива дублиращи се токени след генериране
    • Повторението е невъзможно, след като двама модела гласуват
  3. What does the adaptive plausibility constraint do in contrastive decoding?
    • It guarantees every remaining continuation is coherent and true
    • It replaces the expert distribution with the amateur distribution
    • It filters out candidates whose expert probability is too low relative to the expert’s top token
    • It forces every token to have equal probability
  4. Приблизително каква е формулата за точкуване при контрастно декодиране?
    • log p_amateur минус log p_expert
    • p_expert пъти p_amateur
    • Средната стойност на двете вероятности
    • log p_expert минус коефициент по log p_amateur
  5. Ключово практическо предимство на контрастното декодиране е, че то:
    • Работи по време на извод без допълнително обучение
    • Изисква преквалификация на двата модела съвместно
    • Работи само върху задачи за класификация
    • Елиминира нуждата от голям модел
  6. Кой по-късен метод разширява контрастната идея до собствените слоеве на един модел?
    • Търсене по лъч
    • DoLa, която контрастира ранните и късните слоеве
    • Алчно декодиране
    • Температурно скалиране
  7. The expert assigns probability 0.4 to its top token and the plausibility threshold is 0.1 of that value. What is the minimum probability for a candidate to remain eligible?
    • 0.4
    • 0,1
    • 0.04
    • 0.004
  8. Why can contrastive decoding require more inference work than using the expert model alone?
    • It must retrain both models for every prompt
    • It replaces the vocabulary with image patches
    • It runs only the amateur model
    • It scores candidates with both an expert and an amateur model at inference time