AI用語集の用語

モデルの量子化とは?

定義

モデルの重みの数値精度を下げて、メモリと推論のコストを削減します。