What is Quantization? Definition | AI Understanding

定義

將模型權重轉換為較低精確度的格式，例如 8 位元或 4 位元。

相關術語

降低模型權重的數值精度以減少記憶體和推理成本。

一種微調技術，將 4 位元權重量化與 LoRA 適配器結合，以減少記憶體需求。

核心訓練演算法透過網路向後傳播預測誤差來更新模型權重。

卷積神經網路（CNN）

一種針對處理影像等網格資料而最佳化的神經架構。

將原始資料轉換為模型可以使用的資訊特徵。

產生文字、圖像、音訊、視訊或程式碼等新內容的人工智慧系統。

在我們的免費指南中了解更多信息

Residual Vector Quantization SmoothQuant and Activation Quantization GPTQ and AWQ Post-Training Quantization Quantization

參見

Pruning RAG (Retrieval-Augmented Generation)Prompt Injection Recall Prompt Engineering Recommendation System Prompt Red Teaming

瀏覽完整的人工智慧術語表探索所有免費的人工智慧指南