Викторина, связанная с руководством · Средний Уровень
Инструкция по настройке Викторина
Ознакомьтесь с обучением инструкциям-реакциям под наблюдением, дополнительными этапами предпочтений, разнообразием задач, экспериментом LIMA и оценкой новых инструкций.
Вопрос 1 из 8
Без настройки инструкций как могла бы необработанная базовая модель ответить на вопрос «Какая столица Франции?»
Предварительный просмотр каждого вопроса8 вопросы
Ответы и пояснения появляются по мере прохождения теста.
- Без настройки инструкций как могла бы необработанная базовая модель ответить на вопрос «Какая столица Франции?»
- Всегда отказывается отвечать
- Он возвращает ошибку
- Вместо ответа может продолжаться больше вопросов или связанный текст.
- Он каждый раз отлично отвечает
- Настройка инструкций лучше всего описывается как:
- Обучение с подкреплением на основе отзывов людей
- Предварительное обучение работе с необработанным веб-текстом
- Регулировка температурного параметра
- Контролируемая точная настройка пар «инструкция-ответ»
- How does supervised instruction tuning differ from reward-model-based RLHF in the published InstructGPT recipe?
- It is exactly the same optimization stage
- It trains against reference responses, while the later preference stages use comparisons and a reward model
- It requires no training examples
- It only changes a sampling temperature
- Why do instruction-tuning researchers evaluate models on held-out tasks and instructions?
- To assess generalization beyond the examples used for training
- To prove that every unseen task will succeed
- To avoid checking any generated responses
- To guarantee the same accuracy for every task mixture
- Каков типичный порядок этапов обучения современного чат-ассистента?
- RLHF, затем предварительная подготовка, затем настройка инструкций
- Инструктаж по настройке, затем предварительная подготовка
- Только предварительная подготовка и ничего больше
- Предварительная подготовка, затем настройка инструкций, затем дополнительный RLHF.
- What does LIMA's curated-data experiment support as a research conclusion?
- Exactly 1,000 examples are enough for every model and task
- More data can never help any instruction-tuned model
- Carefully selected small datasets can be effective in an evaluated configuration
- Only synthetic examples can train an assistant
- Which training stage did the original LIMA experiment omit while using its 1,000 curated prompt-response pairs?
- Reinforcement learning and human preference modeling
- Supervised response loss
- A pretrained base model
- Prompt-response examples
- A tuned model follows the requested answer format. What does that behavior alone fail to establish?
- That an output format was requested
- That every factual statement in the answer is correct
- That the model produced a response
- That the response can be inspected