Questionário vinculado ao guia · Médio Nível

Questionário de ajuste rápido

Revise os prompts virtuais na camada de entrada, a configuração do modelo congelado e os resultados dependentes de escala relatados para ajuste de prompt.

Caminhos de guia relacionadosAjuste rápido
Pergunta 1 de 8

O que é um 'soft prompt' no ajuste de prompt?

Visualize cada pergunta8 perguntas

As respostas e explicações aparecem conforme você responde ao teste.

  1. O que é um 'soft prompt' no ajuste de prompt?
    • Aprendeu vetores de incorporação contínua que não precisam ser mapeados para palavras reais
    • Uma instrução de texto educadamente redigida
    • Uma cópia destilada menor do modelo
    • Um conjunto de logits de saída congelados
  2. Onde o ajuste imediato adiciona seus vetores treináveis?
    • Em cada camada do transformador
    • Somente na camada de incorporação de entrada
    • Somente na camada de saída
    • Dentro do estado do otimizador
  3. Que efeito surpreendente o artigo original destacou sobre a escala do modelo?
    • O ajuste imediato piora à medida que os modelos crescem
    • A escala não tem efeito no ajuste imediato
    • À medida que os modelos crescem, o ajuste rápido se aproxima da qualidade total do ajuste fino
    • Modelos maiores não podem mais ser ajustados imediatamente
  4. Quem introduziu o ajuste rápido?
    • DeepMind em 2016
    • Anthropic em 2023
    • Microsoft em 2019
    • Pesquisadores da Google (Lester, Al-Rfou, Constant) em 2021
  5. Como o ajuste rápido permite atender muitas tarefas de um modelo?
    • Cada tarefa usa seu próprio pequeno prompt enquanto o modelo permanece congelado
    • Ele treina novamente todo o modelo para cada solicitação
    • Exclui tarefas não utilizadas dos pesos
    • Requer uma GPU separada por tarefa
  6. How does Lester and colleagues’ paper describe prompt tuning in relation to prefix tuning?
    • As a replacement for frozen language models
    • As a simpler related method that the paper compares with prefix tuning
    • As a tokenizer with no trainable parameters
    • As a method that updates every model weight
  7. Which model family did Lester and colleagues use to study prompt tuning across scales?
    • WaveNet
    • AlphaFold2
    • T5
    • Floresta de Isolamento
  8. How are soft prompts optimized in prompt tuning?
    • By changing all model weights for each task
    • By replacing embeddings with hard-coded words only
    • By training a new tokenizer for every example
    • By backpropagation through a frozen language model to update the prompt vectors