Тест, свързан с ръководство · Среден Ниво

Тест за бързо настройване

Прегледайте меките подкани на входния слой, настройката на замразения модел и зависещите от мащаба резултати, докладвани за бърза настройка.

Свързани ръководни пътекиБърза настройка
Въпрос 1 на 8

Какво е „soft prompt“ при бърза настройка?

Визуализирайте всеки въпрос8 въпроси

Отговорите и обясненията се появяват, докато отговаряте на теста.

  1. Какво е „soft prompt“ при бърза настройка?
    • Научени вектори за непрекъснато вграждане, които не е необходимо да се картографират към реални думи
    • Учтиво формулирана текстова инструкция
    • Умалено дестилирано копие на модела
    • Набор от замразени изходни логове
  2. Къде бързата настройка добавя своите тренируеми вектори?
    • На всеки трансформаторен слой
    • Само на входния слой за вграждане
    • Само на изходния слой
    • Вътре в състоянието на оптимизатора
  3. Какъв изненадващ ефект подчертава оригиналният документ относно мащаба на модела?
    • Бързата настройка се влошава с нарастването на моделите
    • Мащабът няма ефект върху бързата настройка
    • Тъй като моделите стават все по-големи, бързата настройка се доближава до пълно качество на фина настройка
    • По-големите модели вече не могат да бъдат настройвани бързо
  4. Кой въведе бързата настройка?
    • DeepMind през 2016 г
    • Anthropic през 2023 г
    • Microsoft през 2019 г
    • Изследователи от Google (Lester, Al-Rfou, Constant) през 2021 г.
  5. Как бързата настройка позволява обслужването на много задачи от един модел?
    • Всяка задача използва своя малка мека подкана, докато моделът остава замразен
    • Той преобучава целия модел за всяка заявка
    • Изтрива неизползваните задачи от теглата
    • Изисква отделен GPU за всяка задача
  6. How does Lester and colleagues’ paper describe prompt tuning in relation to prefix tuning?
    • As a replacement for frozen language models
    • As a simpler related method that the paper compares with prefix tuning
    • As a tokenizer with no trainable parameters
    • As a method that updates every model weight
  7. Which model family did Lester and colleagues use to study prompt tuning across scales?
    • WaveNet
    • AlphaFold2
    • Т5
    • Изолационна гора
  8. How are soft prompts optimized in prompt tuning?
    • By changing all model weights for each task
    • By replacing embeddings with hard-coded words only
    • By training a new tokenizer for every example
    • By backpropagation through a frozen language model to update the prompt vectors