O que é quantização? Definição | AI Understanding

Definição

Converter pesos de modelo em formatos de menor precisão, como 8 ou 4 bits.

Termos relacionados

Quantização de Modelo

Reduzindo a precisão numérica dos pesos do modelo para diminuir o custo de memória e inferência.

Uma técnica de ajuste fino que combina quantização de peso de 4 bits com adaptadores LoRA para reduzir as necessidades de memória.

Retropropagação

O algoritmo de treinamento principal que atualiza os pesos do modelo propagando erros de previsão para trás pela rede.

Rede Neural Convolucional (CNN)

Uma arquitetura neural otimizada para processar dados semelhantes a grades, como imagens.

Extração de recursos

Converter dados brutos em recursos informativos que um modelo pode usar.

Sistemas de IA que produzem novos conteúdos, como texto, imagens, áudio, vídeo ou código.

Saiba mais em nossos guias gratuitos

Residual Vector Quantization SmoothQuant and Activation Quantization GPTQ and AWQ Post-Training Quantization Quantization

Veja também

Pruning RAG (Retrieval-Augmented Generation)Prompt Injection Recall Prompt Engineering Recommendation System Prompt Red Teaming

Navegue pelo glossário completo de IA Explore todos os guias gratuitos de IA