KI-Glossarbegriff

Was ist Farbverlauf?

Definition

Ein Vektor, der zeigt, um wie viel sich jeder Parameter ändern sollte, um Verluste zu reduzieren.

Durchsuchen Sie das vollständige KI-GlossarEntdecken Sie alle kostenlosen KI-Anleitungen

Verwandte Begriffe

LernrateEin Trainingshyperparameter, der steuert, wie stark Parameter sich bei jedem Aktualisierungsschritt ändern.SkalierungsgesetzEine empirische Beziehung, die zeigt, wie sich die Leistung mit der Modellgröße, den Daten oder der Rechenleistung verbessert.Schiebefenster AchtungEin Aufmerksamkeitsmuster, bei dem sich jedes Token nur um ein Fenster mit fester Größe benachbarter Token kümmert, um den Rechenaufwand zu reduzieren.GAN (Generatives Adversarial Netzwerk)Ein generativer Aufbau, bei dem ein Generator und ein Diskriminator gegeneinander trainieren.VerallgemeinerungWie gut ein Modell mit neuen, unsichtbaren Daten außerhalb des Trainingssatzes abschneidet.GefälleabstiegEine Optimierungsmethode, die Parameter in der Richtung aktualisiert, die Fehler reduziert.

Erfahren Sie mehr in unseren kostenlosen Ratgebern

Gradient AccumulationStochastic Gradient Descent with MomentumNesterov Accelerated GradientVanishing and Exploding Gradients

Siehe auch

Generative AIGround TruthGuardrailsFunction CallingHallucinationFoundation ModelHuman-in-the-LoopFine-Tuning