What is Gradient? Definition | AI Understanding

Meghatározás

Egy vektor, amely megmutatja, hogy az egyes paramétereknek mennyit kell változniuk a veszteség csökkentése érdekében.

Kapcsolódó kifejezések

Tanulási arány

Tanítási hiperparaméter, amely azt szabályozza, hogy mennyi paraméter változik az egyes frissítési lépésekben.

Méretezési törvény

Egy empirikus kapcsolat, amely megmutatja, hogyan javul a teljesítmény a modell méretével, adataival vagy számításaival.

Tolóablak Figyelem

Figyelembe vételi minta, amelyben minden token csak a közeli tokenek fix méretű ablakát veszi figyelembe, hogy csökkentse a számítást.

GAN (Generative Adversarial Network)

Egy generatív beállítás, ahol a generátor és a diszkriminátor egymás ellen edz.

Általánosítás

Milyen jól teljesít egy modell új, nem látott adatokon a képzési halmazon kívül.

Gradiens Descent

Optimalizálási módszer, amely a hibákat csökkentő irányba frissíti a paramétereket.

Tudjon meg többet ingyenes útmutatóinkból

Gradient Accumulation Stochastic Gradient Descent with Momentum Nesterov Accelerated Gradient Vanishing and Exploding Gradients

See also

Generative AI Ground Truth Guardrails Function Calling Hallucination Foundation Model Human-in-the-Loop Fine-Tuning

Böngésszen a teljes AI szószedetben Fedezze fel az összes ingyenes AI-útmutatót