Termen de glosar AI

Ce este Gradient?

Definiție

Un vector care arată cât de mult ar trebui să se schimbe fiecare parametru pentru a reduce pierderea.

Răsfoiți întregul glosar AIExplorați toate ghidurile AI gratuite

Termeni înrudiți

Rata de învățareUn hiperparametru de antrenament care controlează cât de mult parametrii modifică fiecare pas de actualizare.Legea scalariiO relație empirică care arată cum se îmbunătățește performanța cu dimensiunea modelului, datele sau calculul.Atenție fereastră glisantăUn model de atenție în care fiecare jeton se ocupă doar de o fereastră de dimensiune fixă a jetonelor din apropiere pentru a reduce calculul.GAN (Rețea Generativă Adversarială)O configurație generativă în care un generator și un discriminator se antrenează unul împotriva celuilalt.GeneralizareCât de bine funcționează un model pe date noi, nevăzute în afara setului de antrenament.Coborâre în gradientO metodă de optimizare care actualizează parametrii în direcția care reduce eroarea.

Aflați mai multe în ghidurile noastre gratuite

Gradient AccumulationStochastic Gradient Descent with MomentumNesterov Accelerated GradientVanishing and Exploding Gradients

Vezi și

Generative AIGround TruthGuardrailsFunction CallingHallucinationFoundation ModelHuman-in-the-LoopFine-Tuning