Término del glosario de IA

¿Qué es Cuantización del modelo?

Definición

Reducir la precisión numérica de los pesos del modelo para disminuir el costo de memoria e inferencia.

Explore el glosario completo de IAExplora todas las guías gratuitas de IA

Términos relacionados

CuantizaciónConversión de pesos de modelos a formatos de menor precisión, como 8 bits o 4 bits.QLoRAUna técnica de ajuste que combina la cuantificación de peso de 4 bits con adaptadores LoRA para reducir las necesidades de memoria.Atención relámpagoUn algoritmo de atención optimizado que reduce el uso de memoria y acelera el entrenamiento y la inferencia de transformadores.Memoria (memoria del agente)Contexto almacenado que un agente de IA utiliza en todos los pasos o sesiones para mejorar la continuidad.Agente de IAUn sistema de software que puede observar, razonar y tomar acciones para lograr un objetivo, a menudo utilizando herramientas y memoria.Seguridad de la IAUn campo enfocado en reducir comportamientos dañinos, fallas y riesgos de uso indebido en los sistemas de IA.

Obtenga más información en nuestras guías gratuitas.

AI Models ExplainedModel CollapseModel LifecycleModel Context Protocol

Véase también

Model DriftMultimodal ModelModel CardNamed Entity Recognition (NER)Mixture of Experts (MoE)Natural Language Processing (NLP)Neural NetworkMachine Learning (ML)