Quiz lié à un guide · Moyen Niveau
Quiz de réglage des instructions
Passez en revue la formation instruction-réponse supervisée, les étapes de préférence facultatives, la diversité des tâches, l'expérience LIMA et l'évaluation des nouvelles instructions.
Question 1 de 8
Sans réglage des instructions, comment un modèle de base brut pourrait-il répondre à la question « Quelle est la capitale de la France ? »
Prévisualisez chaque question8 des questions
Les réponses et les explications apparaissent au fur et à mesure que vous répondez au quiz.
- Sans réglage des instructions, comment un modèle de base brut pourrait-il répondre à la question « Quelle est la capitale de la France ? »
- Il refuse toujours de répondre
- Il renvoie une erreur
- Il peut continuer avec d'autres questions ou du texte connexe au lieu de répondre.
- Il répond parfaitement à chaque fois
- Le réglage des instructions est mieux décrit comme :
- Apprentissage par renforcement à partir des commentaires humains
- Pré-formation sur le texte Web brut
- Réglage du paramètre de température
- Mise au point supervisée sur les paires instruction-réponse
- How does supervised instruction tuning differ from reward-model-based RLHF in the published InstructGPT recipe?
- It is exactly the same optimization stage
- It trains against reference responses, while the later preference stages use comparisons and a reward model
- It requires no training examples
- It only changes a sampling temperature
- Why do instruction-tuning researchers evaluate models on held-out tasks and instructions?
- To assess generalization beyond the examples used for training
- To prove that every unseen task will succeed
- To avoid checking any generated responses
- To guarantee the same accuracy for every task mixture
- Quel est l’ordre typique des étapes de formation pour un assistant de chat moderne ?
- RLHF, puis pré-entraînement, puis réglage des instructions
- Mise au point des instructions, puis pré-entraînement
- Seulement une pré-formation, rien d'autre
- Pré-entraînement, puis réglage des instructions, puis RLHF en option
- What does LIMA's curated-data experiment support as a research conclusion?
- Exactly 1,000 examples are enough for every model and task
- More data can never help any instruction-tuned model
- Carefully selected small datasets can be effective in an evaluated configuration
- Only synthetic examples can train an assistant
- Which training stage did the original LIMA experiment omit while using its 1,000 curated prompt-response pairs?
- Reinforcement learning and human preference modeling
- Supervised response loss
- A pretrained base model
- Prompt-response examples
- A tuned model follows the requested answer format. What does that behavior alone fail to establish?
- That an output format was requested
- That every factual statement in the answer is correct
- That the model produced a response
- That the response can be inspected