Ajuste rápido
O ajuste de prompt adapta um modelo de linguagem congelada, aprendendo um punhado de vetores contínuos de 'prompt suave' anexados à entrada, em vez de escrever palavras à mão.
Visão geral
It is one of the leanest ways to specialize a giant model, and it gets better as models get bigger.
Mergulho profundo
O ajuste rápido, introduzido pelos pesquisadores Google Lester, Al-Rfou e Constant em 2021, é o primo mais simples do ajuste de prefixo. Em vez de criar um prompt de texto manualmente, você congela o modelo inteiro e aprende uma pequena matriz de incorporações contínuas - 'prompts suaves' - que são anexadas apenas na camada de entrada. O gradiente descendente ajusta esses vetores para obter o comportamento correto para uma tarefa. Uma descoberta surpreendente: à medida que o modelo básico atinge bilhões de parâmetros, o ajuste rápido preenche a lacuna com o ajuste fino completo, eventualmente igualando-o em benchmarks como o SuperGLUE. Cada tarefa precisa apenas de seu próprio prompt de software (geralmente alguns milhares de parâmetros), portanto, um único modelo congelado pode atender a muitas tarefas ao mesmo tempo. Os autores enquadraram isso como 'o poder da escala para ajuste rápido com eficiência de parâmetros'.
Visão Técnica
Os soft prompts não são palavras reais – eles são vetores flutuantes no espaço de incorporação que não precisam corresponder a nenhum token no vocabulário. Eles são adicionados apenas na camada de incorporação de entrada (ao contrário do ajuste de prefixo, que é injetado em todas as camadas), tornando o ajuste imediato ainda mais leve. Como o modelo está congelado, os gradientes retornam apenas para os embeddings de prompt suave. A inicialização, o comprimento do prompt e a escala do modelo afetam fortemente a qualidade.
Impacto Estratégico
Velocidade e escala
Os fluxos de trabalho de idiomas podem avançar mais rapidamente sem sacrificar a consistência.
Acesso e alcance
Ele expande o acesso entre idiomas e estilos de comunicação.
Decisões mais claras
As equipes podem gastar mais tempo julgando enquanto a automação cuida da repetição.
O futuro do ajuste rápido
O ajuste imediato popularizou a ideia de que você pode orientar modelos de fundação congelada com pequenos sinais aprendidos, e isso sustenta grande parte do kit de ferramentas PEFT atual. À medida que os modelos continuam sendo escalonados, o efeito de fechamento de lacunas torna os prompts suaves atraentes para implantação multitarefa barata. A pesquisa está ampliando a ideia para transferir prompts que podem ser aprendidos entre tarefas e modelos, combiná-los com recuperação e usá-los para geração controlável e mais segura. Espere que os avisos suaves continuem sendo uma alavanca de baixo custo junto com LoRA e adaptadores.
Implementação no mundo real
Especializando um modelo T5 congelado para muitas tarefas SuperGLUE, armazenando um soft prompt separado por tarefa
Implantar de forma barata um único modelo grande em vários clientes, cada um com seu próprio prompt aprendido
Sentimento de orientação ou comportamento de classificação sem palavras de engenharia manual
Transferência de prompt suave: pré-treinar um prompt em uma tarefa para iniciar o aprendizado em uma tarefa relacionada
Riscos e guarda-corpos
Fatos alucinados podem entrar silenciosamente em relatórios, fluxos de apoio ou resultados de pesquisas.
A sensibilidade do prompt pode criar resultados inconsistentes em solicitações semelhantes.
Dados de texto confidenciais podem ser expostos se os controles de acesso forem fracos.
Roteiro de implementação
Defina o formato de saída, o tom e os padrões de qualidade antes da implementação.
Respostas terrestres com fontes confiáveis sempre que a precisão for importante.
Mantenha um ponto de verificação de revisão humana para resultados de alto risco.
Rastreie padrões de falha e treine novamente prompts ou fluxos de trabalho regularmente.
Continue explorando
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Prompt Tuning quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Próximo guia
Prompt Engineering
Perguntas frequentes
What is Prompt Tuning?
O ajuste de prompt adapta um modelo de linguagem congelada, aprendendo um punhado de vetores contínuos de 'prompt suave' anexados à entrada, em vez de escrever palavras à mão. É uma das maneiras mais enxutas de especializar um modelo gigante e fica melhor à medida que os modelos ficam maiores.
O que é um 'soft prompt' no ajuste de prompt?
Os prompts suaves são vetores contínuos treináveis no espaço incorporado, e não palavras legíveis por humanos.
Onde o ajuste imediato adiciona seus vetores treináveis?
O ajuste de prompt precede os prompts suaves apenas na entrada, o que o torna mais leve que o ajuste de prefixo.
Que efeito surpreendente o artigo original destacou sobre a escala do modelo?
O título do artigo enfatizava “o poder da escala”: modelos maiores permitem ajustes imediatos que rivalizam com ajustes finos completos.
Quem introduziu o ajuste rápido?
Brian Lester, Rami Al-Rfou e Noah Constant em Google publicaram o documento de ajuste imediato em 2021.
Como o ajuste rápido permite atender muitas tarefas de um modelo?
Apenas um pequeno prompt virtual é específico da tarefa, portanto, um modelo congelado pode hospedar muitas tarefas trocando prompts.