What is Learning Rate? Definition | AI Understanding

定義

訓練超參數控制每個更新步驟的參數變化量。

相關術語

一個向量，顯示每個參數應改變多少以減少損失。

訓練前設定的配置值，例如學習率、批次大小或深度。

模型在訓練集之外的新的、未見過的資料上的表現如何。

參數高效率微調 (PEFT)

透過訓練一小部分添加參數來調整模型的方法。

一種解碼演算法，在每一步中保留前幾個候選序列以找到更高機率的輸出。

量化訓練期間預測誤差的數學目標。

在我們的免費指南中了解更多信息

Deep Learning Reinforcement Learning Machine Learning Basics Supervised Learning

參見

Large Language Model (LLM)LoRA (Low-Rank Adaptation)Latency Label Smoothing Machine Learning (ML)Knowledge Graph Memory (Agent Memory)Knowledge Distillation

瀏覽完整的人工智慧術語表探索所有免費的人工智慧指南