Aprender Noticias Herramientas Empleos Misión

Término del glosario de IA

¿Qué es Latencia?

Definición

El tiempo entre el envío de una solicitud y la recepción del resultado del modelo.

Explore el glosario completo de IA Explora todas las guías gratuitas de IA

Mecanismo de atenciónUn componente del modelo que se centra dinámicamente en partes relevantes de una entrada al producir una salida.Sistema AutónomoUn sistema que puede tomar decisiones y actuar con control humano directo limitado o nulo en tiempo real.RECORTARUna arquitectura de modelo multimodal que aprende representaciones compartidas entre texto e imágenes.Deriva de datosUn cambio en los datos de entrada del mundo real a lo largo del tiempo que puede degradar el rendimiento del modelo.Cálculo del tiempo de inferenciaLa cantidad de potencia de procesamiento consumida al producir cada respuesta.Límite de conocimientoEl último momento reflejado en los datos de entrenamiento de un modelo.

Obtenga más información en nuestras guías gratuitas.

Tail Latency in Model Serving Reducing LLM App Latency Time to First Token and Latency Metrics

Véase también

Label Smoothing Large Language Model (LLM)Knowledge Graph Learning Rate Knowledge Distillation LoRA (Low-Rank Adaptation)Loss Function Jailbreak