蒸留モデルとは？

各応答の生成中に消費される処理電力の量。

より大きなモデルの出力を模倣するためにより小さなモデルをトレーニングします。

トレーニングされたモデルが予測または出力を生成する実行時フェーズ。

重要性の低いモデルの重みやニューロンを削除して、サイズを削減し、計算を行います。

品質または推論を向上させるために応答生成中に使用される追加の推論計算。

API 呼び出し、トークン、推論時間、または消費されたコンピューティングに応じてコストが変動する価格設定。