Termen de glosar AI

Ce este Gradient?

Definiție

Un vector care arată cât de mult ar trebui să se schimbe fiecare parametru pentru a reduce pierderea.

Termeni înrudiți

Rata de învățare
Un hiperparametru de antrenament care controlează cât de mult parametrii modifică fiecare pas de actualizare.
Legea scalarii
O relație empirică care arată cum se îmbunătățește performanța cu dimensiunea modelului, datele sau calculul.
Atenție fereastră glisantă
Un model de atenție în care fiecare jeton se ocupă doar de o fereastră de dimensiune fixă a jetonelor din apropiere pentru a reduce calculul.
GAN (Generative Adversarial Network)
O configurație generativă în care un generator și un discriminator se antrenează unul împotriva celuilalt.
Generalizare
Cât de bine funcționează un model pe date noi, nevăzute în afara setului de antrenament.
Coborâre în gradient
O metodă de optimizare care actualizează parametrii în direcția care reduce eroarea.

Aflați mai multe în ghidurile noastre gratuite

Gradient AccumulationStochastic Gradient Descent with MomentumNesterov Accelerated GradientVanishing and Exploding Gradients

Vezi și

Generative AIGround TruthGuardrailsFunction CallingHallucinationFoundation ModelHuman-in-the-LoopFine-Tuning
Răsfoiți întregul glosar AIExplorați toate ghidurile AI gratuite