什麼是 漸變?

訓練超參數控制每個更新步驟的參數變化量。

一種經驗關係，顯示效能如何隨模型大小、資料或計算而提高。

一種注意模式，其中每個令牌僅關注附近令牌的固定大小視窗以減少計算。

生成器和鑑別器相互訓練的生成設定。

模型在訓練集之外的新的、未見過的資料上的表現如何。

一種向減少誤差的方向更新參數的最佳化方法。