Вікторина, пов’язана з посібником · Середній Рівень

Вікторина з налаштування інструкцій

Ознайомтеся з навчанням під наглядом «інструкція-реакція», факультативними етапами переваг, різноманітністю завдань, експериментом LIMA та оцінкою нових інструкцій.

Пов'язані напрямні шляхиІнструкція Налаштування
Питання 1 з 8

Без налаштування інструкцій, як може необроблена базова модель реагувати на запит «Яка столиця Франції?»

Перегляньте кожне запитання8 запитання

Відповіді та пояснення з’являються під час виконання тесту.

  1. Без налаштування інструкцій, як може необроблена базова модель реагувати на запит «Яка столиця Франції?»
    • Завжди відмовляється відповідати
    • Він повертає помилку
    • Замість відповіді може продовжуватися більше запитань або пов’язаний текст
    • Кожен раз відповідає ідеально
  2. Налаштування інструкцій найкраще описується як:
    • Навчання з підкріпленням на основі відгуків людини
    • Попереднє навчання необробленому веб-тексту
    • Регулювання температурного параметра
    • Точне налаштування пар «інструкція-відповідь» під наглядом
  3. How does supervised instruction tuning differ from reward-model-based RLHF in the published InstructGPT recipe?
    • It is exactly the same optimization stage
    • It trains against reference responses, while the later preference stages use comparisons and a reward model
    • It requires no training examples
    • It only changes a sampling temperature
  4. Why do instruction-tuning researchers evaluate models on held-out tasks and instructions?
    • To assess generalization beyond the examples used for training
    • To prove that every unseen task will succeed
    • To avoid checking any generated responses
    • To guarantee the same accuracy for every task mixture
  5. Який типовий порядок етапів навчання для сучасного помічника в чаті?
    • RLHF, потім попередня підготовка, потім настройка інструкцій
    • Налаштування інструкцій, потім попереднє навчання
    • Тільки попередня підготовка, більше нічого
    • Попереднє навчання, потім налаштування інструкцій, потім необов’язковий RLHF
  6. What does LIMA's curated-data experiment support as a research conclusion?
    • Exactly 1,000 examples are enough for every model and task
    • More data can never help any instruction-tuned model
    • Carefully selected small datasets can be effective in an evaluated configuration
    • Only synthetic examples can train an assistant
  7. Which training stage did the original LIMA experiment omit while using its 1,000 curated prompt-response pairs?
    • Reinforcement learning and human preference modeling
    • Supervised response loss
    • A pretrained base model
    • Prompt-response examples
  8. A tuned model follows the requested answer format. What does that behavior alone fail to establish?
    • That an output format was requested
    • That every factual statement in the answer is correct
    • That the model produced a response
    • That the response can be inspected