Викторина, связанная с руководством · Средний Уровень

Викторина с выборкой и изменением рейтинга Best-of-N

Поймите выбор лучшего из N, ограничения оценщика, затраты времени на вывод и предположения о вероятности, лежащие в основе выборки большего количества кандидатов.

Связанные направляющие путиВыборка и изменение рейтинга Best Of N
Вопрос 1 из 8

В чем заключается основная идея выборки «лучшее из N»?

Предварительный просмотр каждого вопроса8 вопросы

Ответы и пояснения появляются по мере прохождения теста.

  1. В чем заключается основная идея выборки «лучшее из N»?
    • Сгенерируйте выходные данные N кандидатов и выберите лучший с помощью подсчета очков
    • Обучите модель N раз и усредните веса
    • Используйте только первый результат, который производит модель.
    • Сократите словарный запас до N токенов
  2. When is best-of-N most likely to help?
    • When every output is equally good
    • When the model sometimes samples a correct candidate and a reliable verifier can identify it
    • When the task has no way to assess candidates
    • When sampling is disabled
  3. Что в значительной степени определяет, действительно ли метод best-of-N улучшает результаты?
    • Цвет пользовательского интерфейса
    • Только длина приглашения
    • Качество и надежность скорера или верификатора
    • Размер словарного запаса модели
  4. What can happen when N becomes large and the reward model is an imperfect proxy?
    • The model’s tokenizer is removed
    • The model forgets its training weights
    • All candidates become identical
    • Selection can favor outputs that exploit scorer errors and reduce true quality
  5. Какая простая стратегия изменения рейтинга также известна как самосогласованность?
    • Голосование большинством среди выборочных ответов
    • Выбор самого длинного ответа
    • Выбор случайной выборки
    • Всегда брать результат с наименьшей вероятностью
  6. What mainly drives the generation cost of best-of-N?
    • Only the number of vocabulary entries
    • The total amount of text generated across the sampled candidates
    • The user interface color
    • The number of model training runs
  7. If each independent sample succeeds with probability p and a perfect verifier picks any success, what is the chance at least one of N samples succeeds?
    • p/N
    • N−p
    • 1−(1−p)^N
    • 1−p^N
  8. Which assumption is needed for the simple 1−(1−p)^N success formula?
    • Every response has a different length
    • The model is retrained after each sample
    • The reward model has no parameters
    • The candidate samples are independent and the verifier recognizes success perfectly