人工智能术语

什么是模型量化？

定义

降低模型权重的数值精度以减少内存和推理成本。

浏览完整的人工智能术语表探索所有免费的人工智能指南

相关术语

量化将模型权重转换为较低精度的格式，例如 8 位或 4 位。QLoRA一种微调技术，将 4 位权重量化与 LoRA 适配器相结合，以减少内存需求。闪光注意一种优化的注意力算法，可减少内存使用并加速 Transformer 训练和推理。内存（代理内存）AI 代理跨步骤或会话使用存储的上下文来提高连续性。人工智能代理一种可以观察、推理并采取行动来实现目标的软件系统，通常使用工具和内存。人工智能安全该领域专注于减少人工智能系统中的有害行为、故障和误用风险。

在我们的免费指南中了解更多信息

AI Models ExplainedModel CollapseModel LifecycleModel Context Protocol

参见

Model DriftMultimodal ModelModel CardNamed Entity Recognition (NER)Mixture of Experts (MoE)Natural Language Processing (NLP)Neural NetworkMachine Learning (ML)