Termen de glosar AI

Ce este Coborâre în gradient?

Definiție

O metodă de optimizare care actualizează parametrii în direcția care reduce eroarea.

Termeni înrudiți

DPO (Optimizare directă a preferințelor)
O metodă de antrenament care ajustează modelele direct pe perechile de preferințe, fără a avea nevoie de un model de recompensă separat.
Gradient
Un vector care arată cât de mult ar trebui să se schimbe fiecare parametru pentru a reduce pierderea.
Propagarea inversă
Algoritmul de antrenament de bază care actualizează ponderile modelului prin propagarea erorilor de predicție înapoi prin rețea.
părtinire
Un model consistent de eroare sau incorectitudine în comportamentul datelor sau modelului.
Netezirea etichetei
O metodă de regularizare care înmoaie etichetele dure pentru a îmbunătăți generalizarea.
Rata de învățare
Un hiperparametru de antrenament care controlează cât de mult parametrii modifică fiecare pas de actualizare.

Aflați mai multe în ghidurile noastre gratuite

Gradient AccumulationStochastic Gradient Descent with MomentumNesterov Accelerated GradientVanishing and Exploding Gradients

Vezi și

Ground TruthGenerative AIGuardrailsGeneralizationHallucinationGAN (Generative Adversarial Network)Human-in-the-LoopFunction Calling
Răsfoiți întregul glosar AIExplorați toate ghidurile AI gratuite