What is Learning Rate? Definition | AI Understanding

Definition

Ein Trainingshyperparameter, der steuert, wie stark Parameter sich bei jedem Aktualisierungsschritt ändern.

Verwandte Begriffe

Ein Vektor, der zeigt, um wie viel sich jeder Parameter ändern sollte, um Verluste zu reduzieren.

Ein vor dem Training festgelegter Konfigurationswert, z. B. Lernrate, Stapelgröße oder Tiefe.

Verallgemeinerung

Wie gut ein Modell mit neuen, unsichtbaren Daten außerhalb des Trainingssatzes abschneidet.

Parametereffiziente Feinabstimmung (PEFT)

Methoden, die Modelle anpassen, indem sie eine kleine Teilmenge hinzugefügter Parameter trainieren.

Ein Dekodierungsalgorithmus, der bei jedem Schritt die besten Kandidatensequenzen beibehält, um Ausgaben mit höherer Wahrscheinlichkeit zu finden.

Verlustfunktion

Ein mathematisches Ziel, das Vorhersagefehler während des Trainings quantifiziert.

Erfahren Sie mehr in unseren kostenlosen Ratgebern

Deep Learning Reinforcement Learning Machine Learning Basics Supervised Learning

See also

Large Language Model (LLM)LoRA (Low-Rank Adaptation)Latency Label Smoothing Machine Learning (ML)Knowledge Graph Memory (Agent Memory)Knowledge Distillation

Durchsuchen Sie das vollständige KI-Glossar Entdecken Sie alle kostenlosen KI-Anleitungen