AI Ordliste Term

Hva er Gradient Nedstigning?

Definisjon

En optimaliseringsmetode som oppdaterer parametere i retningen som reduserer feil.

Relaterte vilkår

DPO (direkte preferanseoptimalisering)
En treningsmetode som finjusterer modeller direkte på preferansepar uten å trenge en egen belønningsmodell.
Gradient
En vektor som viser hvor mye hver parameter skal endres for å redusere tap.
Tilbakepropagering
Kjernetreningsalgoritmen som oppdaterer modellvekter ved å spre prediksjonsfeil bakover gjennom nettverket.
Bias
Et konsekvent mønster av feil eller urettferdighet i data eller modellatferd.
Etikettutjevning
En regulariseringsmetode som myker opp harde etiketter for å forbedre generaliseringen.
Læringsrate
En treningshyperparameter som kontrollerer hvor mye parametere endrer hvert oppdateringstrinn.

Lær mer i våre gratis guider

Gradient AccumulationStochastic Gradient Descent with MomentumNesterov Accelerated GradientVanishing and Exploding Gradients

Se også

Ground TruthGenerative AIGuardrailsGeneralizationHallucinationGAN (Generative Adversarial Network)Human-in-the-LoopFunction Calling
Bla gjennom hele AI-ordlistenUtforsk alle gratis AI-guider