Termo do glossário de IA

O que é Gradiente?

Definição

Um vetor que mostra quanto cada parâmetro deve mudar para reduzir a perda.

Navegue pelo glossário completo de IAExplore todos os guias gratuitos de IA

Termos relacionados

Taxa de aprendizagemUm hiperparâmetro de treinamento que controla quanto os parâmetros mudam em cada etapa de atualização.Lei de escalaUma relação empírica que mostra como o desempenho melhora com o tamanho do modelo, dados ou computação.Atenção à janela deslizanteUm padrão de atenção em que cada token atende apenas a uma janela de tamanho fixo de tokens próximos para reduzir a computação.GAN (Rede Adversarial Gerativa)Uma configuração generativa onde um gerador e um discriminador treinam um contra o outro.GeneralizaçãoO desempenho de um modelo em dados novos e não vistos fora do conjunto de treinamento.Descida GradienteUm método de otimização que atualiza os parâmetros na direção que reduz o erro.

Saiba mais em nossos guias gratuitos

Gradient AccumulationStochastic Gradient Descent with MomentumNesterov Accelerated GradientVanishing and Exploding Gradients

Veja também

Generative AIGround TruthGuardrailsFunction CallingHallucinationFoundation ModelHuman-in-the-LoopFine-Tuning