Termo do glossário de IA

O que é Ajuste fino com eficiência de parâmetros (PEFT)?

Definição

Métodos que adaptam modelos treinando um pequeno subconjunto de parâmetros adicionados.

Navegue pelo glossário completo de IAExplore todos os guias gratuitos de IA

Termos relacionados

AfinaçãoTreinamento contínuo em dados específicos de domínio para adaptar um modelo pré-treinado a uma tarefa específica.LoRA (adaptação de baixa classificação)Um método de ajuste fino com parâmetros eficientes que adiciona matrizes adaptadoras de classificação baixa.Pós-treinamentoEtapas de treinamento aplicadas após o pré-treinamento, como ajuste de instrução, otimização de preferência e ajuste de segurança.Ajuste de instruçãoAjustando um modelo em pares instrução-resposta para melhorar o acompanhamento de tarefas.Taxa de aprendizagemUm hiperparâmetro de treinamento que controla quanto os parâmetros mudam em cada etapa de atualização.DPO (otimização de preferência direta)Um método de treinamento que ajusta modelos diretamente em pares de preferências sem a necessidade de um modelo de recompensa separado.

Saiba mais em nossos guias gratuitos

Fine-TuningHard Parameter Sharing in Multi-Task NetworksGumbel-Softmax and ReparameterizationRejection Sampling Fine-Tuning

Veja também

ParameterPerplexityOverfittingPipelineOpen-Source ModelPrecisionOCR (Optical Character Recognition)Pretraining