Aprender Notícias Ferramentas Vagas Missão

Termo do glossário de IA

O que é Quantização?

Definição

Converter pesos de modelo em formatos de menor precisão, como 8 ou 4 bits.

Navegue pelo glossário completo de IA Explore todos os guias gratuitos de IA

Quantização de ModeloReduzindo a precisão numérica dos pesos do modelo para diminuir o custo de memória e inferência.QLoRAUma técnica de ajuste fino que combina quantização de peso de 4 bits com adaptadores LoRA para reduzir as necessidades de memória.RetropropagaçãoO algoritmo de treinamento principal que atualiza os pesos do modelo propagando erros de previsão para trás pela rede.Rede Neural Convolucional (CNN)Uma arquitetura neural otimizada para processar dados semelhantes a grades, como imagens.Extração de recursosConverter dados brutos em recursos informativos que um modelo pode usar.IA generativaSistemas de IA que produzem novos conteúdos, como texto, imagens, áudio, vídeo ou código.

Saiba mais em nossos guias gratuitos

Residual Vector Quantization SmoothQuant and Activation Quantization GPTQ and AWQ Post-Training Quantization Quantization

Veja também

Pruning RAG (Retrieval-Augmented Generation)Prompt Injection Recall Prompt Engineering Recommendation System Prompt Red Teaming