Termin ze słownika AI

Czym jest Gradientowe?

Definicja

Wektor pokazujący, jak bardzo powinien zmienić się każdy parametr, aby zmniejszyć straty.

Przejrzyj pełny słownik AIPrzeglądaj wszystkie bezpłatne przewodniki AI

Powiązane terminy

Szybkość uczenia sięHiperparametr szkoleniowy kontrolujący stopień zmiany parametrów w każdym kroku aktualizacji.Prawo skalowaniaZależność empiryczna pokazująca, jak wydajność poprawia się wraz z rozmiarem modelu, danymi lub obliczeniami.Uwaga na przesuwane oknoWzorzec uwagi, w którym każdy token obsługuje tylko okno pobliskich tokenów o stałym rozmiarze, aby zmniejszyć obliczenia.GAN (generatywna sieć kontradyktoryjna)Układ generatywny, w którym generator i dyskryminator trenują przeciwko sobie.UogólnienieJak dobrze model radzi sobie z nowymi, niewidocznymi danymi spoza zbioru szkoleniowego.Zejście gradientoweMetoda optymalizacji, która aktualizuje parametry w kierunku zmniejszającym błąd.

Dowiedz się więcej z naszych bezpłatnych przewodników

Gradient AccumulationStochastic Gradient Descent with MomentumNesterov Accelerated GradientVanishing and Exploding Gradients

Zobacz także

Generative AIGround TruthGuardrailsFunction CallingHallucinationFoundation ModelHuman-in-the-LoopFine-Tuning