人工智能术语

什么是 蒸馏模型?

定义

经过训练的较小模型可以模仿较大模型的行为，同时在推理时使用较少的计算。

相关术语

推理时间计算
生成每个响应时消耗的处理能力。
知识蒸馏
训练较小的模型来模仿较大模型的输出。
推理
经过训练的模型生成预测或输出的运行时阶段。
修剪
删除不太重要的模型权重或神经元以减小尺寸和计算量。
测试时计算
在响应生成期间使用额外的推理计算来提高质量或推理。
基于使用的计费
成本随 API 调用、令牌、推理时间或消耗的计算而变化的定价。

在我们的免费指南中了解更多信息

AI Models ExplainedModel CollapseModel LifecycleModel Context Protocol

参见

Differential PrivacyEmbedding ModelData ProvenanceEval HarnessData LineageFeature StoreConstitutional AIGroundedness
浏览完整的人工智能术语表探索所有免费的人工智能指南