什么是模型量化？定义 | AI Understanding

定义

降低模型权重的数值精度以减少内存和推理成本。

相关术语

将模型权重转换为较低精度的格式，例如 8 位或 4 位。

一种微调技术，将 4 位权重量化与 LoRA 适配器相结合，以减少内存需求。

一种优化的注意力算法，可减少内存使用并加速 Transformer 训练和推理。

内存（代理内存）

AI 代理跨步骤或会话使用存储的上下文来提高连续性。

人工智能代理

一种可以观察、推理并采取行动来实现目标的软件系统，通常使用工具和内存。

人工智能安全

该领域专注于减少人工智能系统中的有害行为、故障和误用风险。

在我们的免费指南中了解更多信息

AI Models Explained Model Collapse Model Lifecycle Model Context Protocol

参见

Model Drift Multimodal Model Model Card Named Entity Recognition (NER)Mixture of Experts (MoE)Natural Language Processing (NLP)Neural Network Machine Learning (ML)

浏览完整的人工智能术语表探索所有免费的人工智能指南