What is Quantization? Definition | AI Understanding

Definición

Conversión de pesos de modelos a formatos de menor precisión, como 8 bits o 4 bits.

Términos relacionados

Cuantización del modelo

Reducir la precisión numérica de los pesos del modelo para disminuir el costo de memoria e inferencia.

Una técnica de ajuste que combina la cuantificación de peso de 4 bits con adaptadores LoRA para reducir las necesidades de memoria.

Propagación hacia atrás

El algoritmo de entrenamiento central que actualiza los pesos del modelo propagando los errores de predicción hacia atrás a través de la red.

Red neuronal convolucional (CNN)

Una arquitectura neuronal optimizada para procesar datos en forma de cuadrícula, como imágenes.

Extracción de características

Convertir datos sin procesar en características informativas que un modelo pueda utilizar.

Sistemas de inteligencia artificial que producen contenido nuevo, como texto, imágenes, audio, video o código.

Obtenga más información en nuestras guías gratuitas.

Residual Vector Quantization SmoothQuant and Activation Quantization GPTQ and AWQ Post-Training Quantization Quantization

See also

Pruning RAG (Retrieval-Augmented Generation)Prompt Injection Recall Prompt Engineering Recommendation System Prompt Red Teaming

Explore el glosario completo de IA Explora todas las guías gratuitas de IA