Término del glosario de IA

que es Facturación basada en el uso?

Definición

Precios donde los costos escalan con llamadas API, tokens, tiempo de inferencia o computación consumida.

Términos relacionados

Cálculo del tiempo de inferencia
La cantidad de potencia de procesamiento consumida al producir cada respuesta.
Cálculo del tiempo de prueba
Cálculo de inferencia adicional utilizado durante la generación de respuestas para mejorar la calidad o el razonamiento.
Decodificación especulativa
Un método de aceleración de inferencia en el que un modelo borrador pequeño propone tokens que un modelo más grande verifica en paralelo.
Atención de ventana corrediza
Un patrón de atención en el que cada token atiende solo a una ventana de tamaño fijo de tokens cercanos para reducir la computación.
Inferencia
La fase de tiempo de ejecución donde un modelo entrenado genera predicciones o resultados.
RAG (Generación aumentada de recuperación)
Un método que recupera conocimiento externo y lo alimenta a la generación en el momento de la inferencia.

Obtenga más información en nuestras guías gratuitas.

Entropy-Based SamplingEnergy-Based ModelsScore-Based Generative ModelsWaveGlow Flow-Based Vocoder

See also

Trust CalibrationZero Data RetentionStructured OutputKV CacheShadow DeploymentMCP (Model Context Protocol)Safety CaseAgentic Loop
Explore el glosario completo de IAExplora todas las guías gratuitas de IA