Викторина, связанная с руководством · Средний Уровень

Быстрый тест по настройке

Просмотрите программные подсказки на входном слое, настройку замороженной модели и зависящие от масштаба результаты, полученные для настройки подсказок.

Связанные направляющие путиОперативная настройка
Вопрос 1 из 8

Что такое «мягкая подсказка» при быстрой настройке?

Предварительный просмотр каждого вопроса8 вопросы

Ответы и пояснения появляются по мере прохождения теста.

  1. Что такое «мягкая подсказка» при быстрой настройке?
    • Изучены векторы непрерывного встраивания, которые не обязательно соответствуют реальным словам.
    • Вежливо сформулированная текстовая инструкция
    • Уменьшенная дистиллированная копия модели.
    • Набор замороженных выходных логитов
  2. Где быстрая настройка добавляет свои обучаемые векторы?
    • На каждом слое трансформатора
    • Только на входном слое внедрения
    • Только на выходном слое
    • Внутри состояния оптимизатора
  3. Какой удивительный эффект масштаба модели был отмечен в оригинальной статье?
    • Быстрая настройка становится все хуже по мере роста моделей.
    • Масштаб не влияет на быструю настройку.
    • По мере того, как модели становятся больше, быстрая настройка приближается к полной точной настройке.
    • Большие модели больше не могут быть быстро настроены.
  4. Кто ввел быстрый тюнинг?
    • ДипМайнд в 2016 году
    • Anthropic в 2023 году
    • Microsoft в 2019 году
    • Исследователи из Google (Лестер, Аль-Рфу, Констант) в 2021 году.
  5. Как оперативная настройка позволяет выполнять множество задач с помощью одной модели?
    • Для каждой задачи используется своя крошечная программная подсказка, пока модель остается замороженной.
    • Он переобучает всю модель для каждого запроса.
    • Удаляет неиспользуемые задачи из весов
    • Для каждой задачи требуется отдельный графический процессор
  6. How does Lester and colleagues’ paper describe prompt tuning in relation to prefix tuning?
    • As a replacement for frozen language models
    • As a simpler related method that the paper compares with prefix tuning
    • As a tokenizer with no trainable parameters
    • As a method that updates every model weight
  7. Which model family did Lester and colleagues use to study prompt tuning across scales?
    • ВейвНет
    • AlphaFold2
    • Т5
    • Изоляционный лес
  8. How are soft prompts optimized in prompt tuning?
    • By changing all model weights for each task
    • By replacing embeddings with hard-coded words only
    • By training a new tokenizer for every example
    • By backpropagation through a frozen language model to update the prompt vectors