Término del glosario de IA

que es Descenso de gradiente?

Definición

Un método de optimización que actualiza los parámetros en la dirección que reduce el error.

Términos relacionados

DPO (optimización de preferencias directas)
Un método de entrenamiento que afina los modelos directamente en pares de preferencias sin necesidad de un modelo de recompensa separado.
gradiente
Un vector que muestra cuánto debe cambiar cada parámetro para reducir la pérdida.
Propagación hacia atrás
El algoritmo de entrenamiento central que actualiza los pesos del modelo propagando los errores de predicción hacia atrás a través de la red.
Sesgo
Un patrón constante de error o injusticia en los datos o el comportamiento del modelo.
Suavizado de etiquetas
Un método de regularización que suaviza las etiquetas duras para mejorar la generalización.
Tasa de aprendizaje
Un hiperparámetro de entrenamiento que controla cuánto cambian los parámetros en cada paso de actualización.

Obtenga más información en nuestras guías gratuitas.

Gradient AccumulationStochastic Gradient Descent with MomentumNesterov Accelerated GradientVanishing and Exploding Gradients

See also

Ground TruthGenerative AIGuardrailsGeneralizationHallucinationGAN (Generative Adversarial Network)Human-in-the-LoopFunction Calling
Explore el glosario completo de IAExplora todas las guías gratuitas de IA