Quiz lié à un guide · Moyen Niveau

Quiz de réglage des instructions

Passez en revue la formation instruction-réponse supervisée, les étapes de préférence facultatives, la diversité des tâches, l'expérience LIMA et l'évaluation des nouvelles instructions.

Chemins de guidage associésRéglage des instructions
Question 1 de 8

Sans réglage des instructions, comment un modèle de base brut pourrait-il répondre à la question « Quelle est la capitale de la France ? »

Prévisualisez chaque question8 des questions

Les réponses et les explications apparaissent au fur et à mesure que vous répondez au quiz.

  1. Sans réglage des instructions, comment un modèle de base brut pourrait-il répondre à la question « Quelle est la capitale de la France ? »
    • Il refuse toujours de répondre
    • Il renvoie une erreur
    • Il peut continuer avec d'autres questions ou du texte connexe au lieu de répondre.
    • Il répond parfaitement à chaque fois
  2. Le réglage des instructions est mieux décrit comme :
    • Apprentissage par renforcement à partir des commentaires humains
    • Pré-formation sur le texte Web brut
    • Réglage du paramètre de température
    • Mise au point supervisée sur les paires instruction-réponse
  3. How does supervised instruction tuning differ from reward-model-based RLHF in the published InstructGPT recipe?
    • It is exactly the same optimization stage
    • It trains against reference responses, while the later preference stages use comparisons and a reward model
    • It requires no training examples
    • It only changes a sampling temperature
  4. Why do instruction-tuning researchers evaluate models on held-out tasks and instructions?
    • To assess generalization beyond the examples used for training
    • To prove that every unseen task will succeed
    • To avoid checking any generated responses
    • To guarantee the same accuracy for every task mixture
  5. Quel est l’ordre typique des étapes de formation pour un assistant de chat moderne ?
    • RLHF, puis pré-entraînement, puis réglage des instructions
    • Mise au point des instructions, puis pré-entraînement
    • Seulement une pré-formation, rien d'autre
    • Pré-entraînement, puis réglage des instructions, puis RLHF en option
  6. What does LIMA's curated-data experiment support as a research conclusion?
    • Exactly 1,000 examples are enough for every model and task
    • More data can never help any instruction-tuned model
    • Carefully selected small datasets can be effective in an evaluated configuration
    • Only synthetic examples can train an assistant
  7. Which training stage did the original LIMA experiment omit while using its 1,000 curated prompt-response pairs?
    • Reinforcement learning and human preference modeling
    • Supervised response loss
    • A pretrained base model
    • Prompt-response examples
  8. A tuned model follows the requested answer format. What does that behavior alone fail to establish?
    • That an output format was requested
    • That every factual statement in the answer is correct
    • That the model produced a response
    • That the response can be inspected