Termo do glossário de IA

O que é Quantização de Modelo?

Definição

Reduzindo a precisão numérica dos pesos do modelo para diminuir o custo de memória e inferência.

Navegue pelo glossário completo de IAExplore todos os guias gratuitos de IA

Termos relacionados

QuantizaçãoConverter pesos de modelo em formatos de menor precisão, como 8 ou 4 bits.QLoRAUma técnica de ajuste fino que combina quantização de peso de 4 bits com adaptadores LoRA para reduzir as necessidades de memória.Atenção instantâneaUm algoritmo de atenção otimizado que reduz o uso de memória e acelera o treinamento e a inferência do transformador.Memória (memória do agente)Contexto armazenado que um agente de IA usa em etapas ou sessões para melhorar a continuidade.Agente de IAUm sistema de software que pode observar, raciocinar e realizar ações para atingir um objetivo, geralmente usando ferramentas e memória.Segurança de IAUm campo focado na redução de comportamentos prejudiciais, falhas e riscos de uso indevido em sistemas de IA.

Saiba mais em nossos guias gratuitos

AI Models ExplainedModel CollapseModel LifecycleModel Context Protocol

Veja também

Model DriftMultimodal ModelModel CardNamed Entity Recognition (NER)Mixture of Experts (MoE)Natural Language Processing (NLP)Neural NetworkMachine Learning (ML)