とは何ですか バックプロパゲーション?

トレーニング中の予測誤差を定量化する数学的目標。

ニューラル ネットワークを通過する信号をスケールする学習された数値。

最適化されたアテンション アルゴリズムにより、メモリの使用量が削減され、トランスフォーマーのトレーニングと推論が高速化されます。

モデル自体のコピーとの相互作用や競合を通じてデータを生成することでモデルが向上するトレーニング設定。

ベンチマーク テストの例またはそれに近いバリアントがトレーニング データに存在すると、報告されるパフォーマンスが水増しされます。

最も頻繁に使用される文字のペアを再利用可能なトークンに結合するサブワードのトークン化アルゴリズム。