que es Cuantización del modelo?

Conversión de pesos de modelos a formatos de menor precisión, como 8 bits o 4 bits.

Una técnica de ajuste que combina la cuantificación de peso de 4 bits con adaptadores LoRA para reducir las necesidades de memoria.

Un algoritmo de atención optimizado que reduce el uso de memoria y acelera el entrenamiento y la inferencia de transformadores.

Contexto almacenado que un agente de IA utiliza en todos los pasos o sesiones para mejorar la continuidad.

Un sistema de software que puede observar, razonar y tomar acciones para lograr un objetivo, a menudo utilizando herramientas y memoria.

Un campo enfocado en reducir comportamientos dañinos, fallas y riesgos de uso indebido en los sistemas de IA.