Término del glosario de IA

¿Qué es Cuantización?

Definición

Conversión de pesos de modelos a formatos de menor precisión, como 8 bits o 4 bits.

Explore el glosario completo de IAExplora todas las guías gratuitas de IA

Términos relacionados

Cuantización del modeloReducir la precisión numérica de los pesos del modelo para disminuir el costo de memoria e inferencia.QLoRAUna técnica de ajuste que combina la cuantificación de peso de 4 bits con adaptadores LoRA para reducir las necesidades de memoria.Propagación hacia atrásEl algoritmo de entrenamiento central que actualiza los pesos del modelo propagando los errores de predicción hacia atrás a través de la red.Red neuronal convolucional (CNN)Una arquitectura neuronal optimizada para procesar datos en forma de cuadrícula, como imágenes.Extracción de característicasConvertir datos sin procesar en características informativas que un modelo pueda utilizar.IA generativaSistemas de inteligencia artificial que producen contenido nuevo, como texto, imágenes, audio, video o código.

Obtenga más información en nuestras guías gratuitas.

Residual Vector QuantizationSmoothQuant and Activation QuantizationGPTQ and AWQ Post-Training QuantizationQuantization

Véase también

PruningRAG (Retrieval-Augmented Generation)Prompt InjectionRecallPrompt EngineeringRecommendation SystemPromptRed Teaming