Término del glosario de IA

¿Qué es Caché KV?

Definición

Tensores de clave y valor almacenados de tokens anteriores que permiten a los transformadores generar nuevos tokens sin volver a calcular la atención pasada.

Explore el glosario completo de IAExplora todas las guías gratuitas de IA

Términos relacionados

Aprendizaje continuoEnfoques de entrenamiento que permiten que un modelo siga aprendiendo de nuevos datos sin olvidar el conocimiento previo.Muestreo Top-kUna estrategia de decodificación que toma muestras solo de los k tokens siguientes más probables.Aprendizaje no supervisadoPatrones de aprendizaje a partir de datos sin etiquetar sin resultados objetivo explícitos.Atención de ventana corredizaUn patrón de atención en el que cada token atiende solo a una ventana de tamaño fijo de tokens cercanos para reducir la computación.FrasePiezaUn tokenizador independiente del idioma que aprende unidades de subpalabras directamente a partir de texto sin formato sin dividirlo previamente en espacios en blanco.Penalización de presenciaUna configuración de decodificación que reduce la probabilidad de que aparezcan tokens, fomentando nuevos temas.

Obtenga más información en nuestras guías gratuitas.

KV CacheKV Cache OptimizationCache-Augmented Generation (CAG)

Véase también

Speculative DecodingMCP (Model Context Protocol)Zero Data RetentionAgentic LoopUsage-Based BillingReActTrust CalibrationTree of Thoughts