人工智能术语

什么是量化？

定义

将模型权重转换为较低精度的格式，例如 8 位或 4 位。

浏览完整的人工智能术语表探索所有免费的人工智能指南

相关术语

模型量化降低模型权重的数值精度以减少内存和推理成本。QLoRA一种微调技术，将 4 位权重量化与 LoRA 适配器相结合，以减少内存需求。反向传播核心训练算法通过网络向后传播预测误差来更新模型权重。卷积神经网络（CNN）一种针对处理图像等网格数据而优化的神经架构。特征提取将原始数据转换为模型可以使用的信息特征。生成式 AI生成文本、图像、音频、视频或代码等新内容的人工智能系统。

在我们的免费指南中了解更多信息

Residual Vector QuantizationSmoothQuant and Activation QuantizationGPTQ and AWQ Post-Training QuantizationQuantization

参见

PruningRAG (Retrieval-Augmented Generation)Prompt InjectionRecallPrompt EngineeringRecommendation SystemPromptRed Teaming