Вікторина, пов’язана з посібником · Середній Рівень

Вікторина з оптимізації переваг співвідношення шансів

Пояснює мету ORPO щодо переваг без еталонної моделі, штраф за співвідношенням шансів і комбіноване тренування під наглядом і перевагами.

Питання 1 з 8

У чому головна практична перевага ОРПО перед такими методами, як ДПО?

Перегляньте кожне запитання8 запитання

Відповіді та пояснення з’являються під час виконання тесту.

  1. У чому головна практична перевага ОРПО перед такими методами, як ДПО?
    • Це усуває потребу в окремій еталонній моделі
    • Для цього взагалі не потрібні навчальні дані
    • Він працює лише на моделях зображень
    • Це гарантує відсутність галюцинацій
  2. Що порівнює «співвідношення шансів» в ORPO?
    • Швидкість навчання проти точності
    • Шанси обраної відповіді проти відхиленої відповіді
    • Дві різні швидкості навчання
    • Розмір моделі проти розміру набору даних
  3. What form does an ORPO preference example contain?
    • Only a single unlabeled response
    • A prompt with two identical completions
    • A prompt with one chosen response and one disfavored response
    • A reward score with no associated responses
  4. How does ORPO convert a response probability p into odds?
    • One minus p divided by p
    • The square root of p
    • The logarithm of the prompt length
    • p divided by one minus p
  5. Яка комбінація найкраще описує втрату ORPO?
    • Перехресна ентропія SFT плюс зважений термін переваги співвідношення шансів
    • Лише модель винагороди
    • Чисте повернення підкріпленого навчання
    • Випадкове введення шуму
  6. Which response receives the supervised fine-tuning component of ORPO?
    • Only the rejected response
    • The chosen or preferred response
    • A response sampled after deployment
    • No response; ORPO has no language-modeling term
  7. Which parameter controls the weight of ORPO’s preference term relative to the supervised loss?
    • Розмір словника токенізера
    • Кількість голів уваги
    • The preference-loss coefficient
    • The prompt’s character count
  8. Why should an ORPO result report its preference data and evaluation setup?
    • ORPO results are identical across datasets
    • The objective removes the need for evaluation
    • The number of model layers determines every preference
    • Outcomes depend on the dataset, coefficient, base model, and evaluation