Término del glosario de IA

que es Modelo destilado?

Definición

Un modelo más pequeño entrenado para imitar el comportamiento de un modelo más grande mientras usa menos computación en la inferencia.

Términos relacionados

Cálculo del tiempo de inferencia
La cantidad de potencia de procesamiento consumida al producir cada respuesta.
Destilación del conocimiento
Entrenar un modelo más pequeño para imitar los resultados de un modelo más grande.
Inferencia
La fase de tiempo de ejecución donde un modelo entrenado genera predicciones o resultados.
Poda
Eliminación de pesos o neuronas del modelo menos importantes para reducir el tamaño y el cálculo.
Cálculo del tiempo de prueba
Cálculo de inferencia adicional utilizado durante la generación de respuestas para mejorar la calidad o el razonamiento.
Facturación basada en el uso
Precios donde los costos escalan con llamadas API, tokens, tiempo de inferencia o computación consumida.

Obtenga más información en nuestras guías gratuitas.

AI Models ExplainedModel CollapseModel LifecycleModel Context Protocol

See also

Differential PrivacyEmbedding ModelData ProvenanceEval HarnessData LineageFeature StoreConstitutional AIGroundedness
Explore el glosario completo de IAExplora todas las guías gratuitas de IA