人工智慧術語

什麼是 蒸餾模型?

定義

經過訓練的較小模型可以模仿較大模型的行為，同時在推理時使用較少的計算。

相關術語

推理時間計算
產生每個回應時消耗的處理能力。
知識蒸餾
訓練較小的模型來模仿較大模型的輸出。
推理
經過訓練的模型產生預測或輸出的運行時階段。
修剪
刪除不太重要的模型權重或神經元以減少尺寸和計算量。
測試時計算
在回應生成期間使用額外的推理計算來提高品質或推理。
基於使用的計費
成本隨 API 呼叫、令牌、推理時間或消耗的計算而變化的定價。

在我們的免費指南中了解更多信息

AI Models ExplainedModel CollapseModel LifecycleModel Context Protocol

參見

Differential PrivacyEmbedding ModelData ProvenanceEval HarnessData LineageFeature StoreConstitutional AIGroundedness
瀏覽完整的人工智慧術語表探索所有免費的人工智慧指南