Вікторина, пов’язана з посібником · Середній Рівень

Тест про швидке налаштування

Перегляньте програмні підказки на вхідному рівні, налаштування замороженої моделі та залежні від масштабу результати, повідомлені для швидкого налаштування.

Пов'язані напрямні шляхиОперативна настройка
Питання 1 з 8

Що таке «м'яка підказка» під час швидкого налаштування?

Перегляньте кожне запитання8 запитання

Відповіді та пояснення з’являються під час виконання тесту.

  1. Що таке «м'яка підказка» під час швидкого налаштування?
    • Вивчили вектори безперервного вбудовування, яким не потрібно відображати реальні слова
    • Ввічливо сформульована текстова інструкція
    • Зменшена перегонена копія моделі
    • Набір заморожених вихідних логів
  2. Де оперативне налаштування додає вектори, які можна навчати?
    • На кожному шарі трансформатора
    • Тільки на вхідному шарі вбудовування
    • Тільки на вихідному шарі
    • Всередині стану оптимізатора
  3. Який несподіваний ефект від масштабу моделі підкреслив оригінальний документ?
    • Швидке налаштування стає гіршим із зростанням моделей
    • Масштаб не впливає на оперативне налаштування
    • Оскільки моделі стають більшими, оперативне налаштування наближається до повної якості тонкого налаштування
    • Більші моделі більше не можна швидко налаштувати
  4. Хто запровадив оперативне налаштування?
    • DeepMind у 2016 році
    • Anthropic у 2023 році
    • Microsoft у 2019 році
    • Дослідники Google (Лестер, Аль-Рфу, Констант) у 2021 році
  5. Як оперативне налаштування дозволяє обслуговувати багато завдань з однієї моделі?
    • Кожне завдання використовує власну крихітну програмну підказку, поки модель залишається замороженою
    • Він перенавчає всю модель для кожного запиту
    • Він видаляє невикористані завдання з ваг
    • Для кожного завдання потрібен окремий графічний процесор
  6. How does Lester and colleagues’ paper describe prompt tuning in relation to prefix tuning?
    • As a replacement for frozen language models
    • As a simpler related method that the paper compares with prefix tuning
    • As a tokenizer with no trainable parameters
    • As a method that updates every model weight
  7. Which model family did Lester and colleagues use to study prompt tuning across scales?
    • WaveNet
    • AlphaFold2
    • Т5
    • Ізольований ліс
  8. How are soft prompts optimized in prompt tuning?
    • By changing all model weights for each task
    • By replacing embeddings with hard-coded words only
    • By training a new tokenizer for every example
    • By backpropagation through a frozen language model to update the prompt vectors