命令チューニングクイズ

クイズに答えると、答えと解説が表示されます。

1. 命令チューニングがなければ、生の基本モデルは「フランスの首都はどこですか?」というプロンプトにどのように応答するでしょうか。
   • いつも返答を拒否する
   • エラーが返されます
   • 回答する代わりに、さらに質問や関連テキストが表示される場合があります。
   • 毎回完璧に答えてくれる
2. 命令のチューニングは次のように説明するのが最適です。
   • 人間のフィードバックからの強化学習
   • 生の Web テキストでの事前トレーニング
   • 温度パラメータの調整
   • 指示と応答のペアに関する監視付き微調整
3. How does supervised instruction tuning differ from reward-model-based RLHF in the published InstructGPT recipe?
   • It is exactly the same optimization stage
   • It trains against reference responses, while the later preference stages use comparisons and a reward model
   • It requires no training examples
   • It only changes a sampling temperature
4. Why do instruction-tuning researchers evaluate models on held-out tasks and instructions?
   • To assess generalization beyond the examples used for training
   • To prove that every unseen task will succeed
   • To avoid checking any generated responses
   • To guarantee the same accuracy for every task mixture
5. 最近のチャット アシスタントのトレーニング段階の一般的な順序はどれですか?
   • RLHF、次に事前トレーニング、次に命令チューニング
   • 命令のチューニングと事前トレーニング
   • 事前トレーニングのみで、他には何もありません
   • 事前トレーニング、次に命令チューニング、次にオプションの RLHF
6. What does LIMA's curated-data experiment support as a research conclusion?
   • Exactly 1,000 examples are enough for every model and task
   • More data can never help any instruction-tuned model
   • Carefully selected small datasets can be effective in an evaluated configuration
   • Only synthetic examples can train an assistant
7. Which training stage did the original LIMA experiment omit while using its 1,000 curated prompt-response pairs?
   • Reinforcement learning and human preference modeling
   • Supervised response loss
   • A pretrained base model
   • Prompt-response examples
8. A tuned model follows the requested answer format. What does that behavior alone fail to establish?
   • That an output format was requested
   • That every factual statement in the answer is correct
   • That the model produced a response
   • That the response can be inspected