Тест, свързан с ръководство · Среден Ниво
Тест за настройка на инструкции
Прегледайте обучението с контролиран отговор на инструкциите, незадължителните етапи на предпочитанията, разнообразието на задачите, експеримента LIMA и оценката на новите инструкции.
Въпрос 1 на 8
Без настройка на инструкции, как би могъл необработеният базов модел да отговори на подканата „Коя е столицата на Франция?“
Визуализирайте всеки въпрос8 въпроси
Отговорите и обясненията се появяват, докато отговаряте на теста.
- Без настройка на инструкции, как би могъл необработеният базов модел да отговори на подканата „Коя е столицата на Франция?“
- Винаги отказва да отговори
- Връща грешка
- Може да продължи с още въпроси или свързан текст вместо отговор
- Отговаря идеално всеки път
- Настройката на инструкциите се описва най-добре като:
- Подсилващо обучение от човешка обратна връзка
- Предварително обучение върху необработен уеб текст
- Регулиране на температурния параметър
- Контролирана фина настройка на двойки инструкция-отговор
- How does supervised instruction tuning differ from reward-model-based RLHF in the published InstructGPT recipe?
- It is exactly the same optimization stage
- It trains against reference responses, while the later preference stages use comparisons and a reward model
- It requires no training examples
- It only changes a sampling temperature
- Why do instruction-tuning researchers evaluate models on held-out tasks and instructions?
- To assess generalization beyond the examples used for training
- To prove that every unseen task will succeed
- To avoid checking any generated responses
- To guarantee the same accuracy for every task mixture
- Какъв е типичният ред на етапите на обучение за модерен чат асистент?
- RLHF, след това предварителна подготовка, след това настройка на инструкциите
- Настройка на инструкциите, след това предварителна подготовка
- Само предварителна подготовка, нищо друго
- Предварително обучение, след това настройка на инструкции, след това по избор RLHF
- What does LIMA's curated-data experiment support as a research conclusion?
- Exactly 1,000 examples are enough for every model and task
- More data can never help any instruction-tuned model
- Carefully selected small datasets can be effective in an evaluated configuration
- Only synthetic examples can train an assistant
- Which training stage did the original LIMA experiment omit while using its 1,000 curated prompt-response pairs?
- Reinforcement learning and human preference modeling
- Supervised response loss
- A pretrained base model
- Prompt-response examples
- A tuned model follows the requested answer format. What does that behavior alone fail to establish?
- That an output format was requested
- That every factual statement in the answer is correct
- That the model produced a response
- That the response can be inspected