Termo do glossário de IA

O que é Pré-treinamento?

Definição

Treinamento inicial de modelos em grande escala sobre dados amplos antes da adaptação posterior.

Navegue pelo glossário completo de IAExplore todos os guias gratuitos de IA

Termos relacionados

Pós-treinamentoEtapas de treinamento aplicadas após o pré-treinamento, como ajuste de instrução, otimização de preferência e ajuste de segurança.Grandes dadosConjuntos de dados muito grandes e complexos que requerem técnicas escalonáveis de armazenamento e processamento.Aprendizagem ContínuaAbordagens de treinamento que permitem que um modelo continue aprendendo com novos dados sem esquecer o conhecimento prévio.Aumento de dadosTécnicas que criam exemplos de treinamento modificados para melhorar a generalização do modelo.AfinaçãoTreinamento contínuo em dados específicos de domínio para adaptar um modelo pré-treinado a uma tarefa específica.Modelo de FundaçãoUm grande modelo pré-treinado que pode ser adaptado a muitas tarefas posteriores.

Saiba mais em nossos guias gratuitos

ELECTRA PretrainingContinued Pretraining vs Fine-TuningCLAP: Contrastive Language-Audio Pretraining

Veja também

PrecisionPromptPipelinePrompt EngineeringPerplexityPrompt InjectionParameter-Efficient Fine-Tuning (PEFT)Pruning