Aprender Noticias Herramientas Empleos Misión

Término del glosario de IA

¿Qué es Modelo destilado?

Definición

Un modelo más pequeño entrenado para imitar el comportamiento de un modelo más grande mientras usa menos computación en la inferencia.

Explore el glosario completo de IA Explora todas las guías gratuitas de IA

Cálculo del tiempo de inferenciaLa cantidad de potencia de procesamiento consumida al producir cada respuesta.Destilación del conocimientoEntrenar un modelo más pequeño para imitar los resultados de un modelo más grande.InferenciaLa fase de tiempo de ejecución donde un modelo entrenado genera predicciones o resultados.PodaEliminación de pesos o neuronas del modelo menos importantes para reducir el tamaño y el cálculo.Cálculo del tiempo de pruebaCálculo de inferencia adicional utilizado durante la generación de respuestas para mejorar la calidad o el razonamiento.Facturación basada en el usoPrecios donde los costos escalan con llamadas API, tokens, tiempo de inferencia o computación consumida.

Obtenga más información en nuestras guías gratuitas.

AI Models Explained Model Collapse Model Lifecycle Model Context Protocol

Véase también

Differential Privacy Embedding Model Data Provenance Eval Harness Data Lineage Feature Store Constitutional AI Groundedness