Вікторина, пов’язана з посібником · Середній Рівень
Вікторина з оптимізації переваг співвідношення шансів
Пояснює мету ORPO щодо переваг без еталонної моделі, штраф за співвідношенням шансів і комбіноване тренування під наглядом і перевагами.
Питання 1 з 8
У чому головна практична перевага ОРПО перед такими методами, як ДПО?
Перегляньте кожне запитання8 запитання
Відповіді та пояснення з’являються під час виконання тесту.
- У чому головна практична перевага ОРПО перед такими методами, як ДПО?
- Це усуває потребу в окремій еталонній моделі
- Для цього взагалі не потрібні навчальні дані
- Він працює лише на моделях зображень
- Це гарантує відсутність галюцинацій
- Що порівнює «співвідношення шансів» в ORPO?
- Швидкість навчання проти точності
- Шанси обраної відповіді проти відхиленої відповіді
- Дві різні швидкості навчання
- Розмір моделі проти розміру набору даних
- What form does an ORPO preference example contain?
- Only a single unlabeled response
- A prompt with two identical completions
- A prompt with one chosen response and one disfavored response
- A reward score with no associated responses
- How does ORPO convert a response probability p into odds?
- One minus p divided by p
- The square root of p
- The logarithm of the prompt length
- p divided by one minus p
- Яка комбінація найкраще описує втрату ORPO?
- Перехресна ентропія SFT плюс зважений термін переваги співвідношення шансів
- Лише модель винагороди
- Чисте повернення підкріпленого навчання
- Випадкове введення шуму
- Which response receives the supervised fine-tuning component of ORPO?
- Only the rejected response
- The chosen or preferred response
- A response sampled after deployment
- No response; ORPO has no language-modeling term
- Which parameter controls the weight of ORPO’s preference term relative to the supervised loss?
- Розмір словника токенізера
- Кількість голів уваги
- The preference-loss coefficient
- The prompt’s character count
- Why should an ORPO result report its preference data and evaluation setup?
- ORPO results are identical across datasets
- The objective removes the need for evaluation
- The number of model layers determines every preference
- Outcomes depend on the dataset, coefficient, base model, and evaluation