Término del glosario de IA

que es Latencia?

Definición

El tiempo entre el envío de una solicitud y la recepción del resultado del modelo.

Términos relacionados

Mecanismo de atención
Un componente del modelo que se centra dinámicamente en partes relevantes de una entrada al producir una salida.
Sistema Autónomo
Un sistema que puede tomar decisiones y actuar con control humano directo limitado o nulo en tiempo real.
RECORTAR
Una arquitectura de modelo multimodal que aprende representaciones compartidas entre texto e imágenes.
Deriva de datos
Un cambio en los datos de entrada del mundo real a lo largo del tiempo que puede degradar el rendimiento del modelo.
Cálculo del tiempo de inferencia
La cantidad de potencia de procesamiento consumida al producir cada respuesta.
Límite de conocimiento
El último momento reflejado en los datos de entrenamiento de un modelo.

See also

Label SmoothingLarge Language Model (LLM)Knowledge GraphLearning RateKnowledge DistillationLoRA (Low-Rank Adaptation)Loss FunctionJailbreak
Explore el glosario completo de IAExplora todas las guías gratuitas de IA