que es Inferencia?

Una interfaz API implementada que recibe solicitudes de modelo y devuelve predicciones en producción.

Un flujo de trabajo en el que los humanos revisan, guían o anulan los resultados de la IA.

Un enfoque de capacitación y configuración del comportamiento en el que los resultados del modelo se guían por un conjunto fijo de principios escritos.

Un modelo más pequeño entrenado para imitar el comportamiento de un modelo más grande mientras usa menos computación en la inferencia.

Precios donde los costos escalan con llamadas API, tokens, tiempo de inferencia o computación consumida.

Un método de aceleración de inferencia en el que un modelo borrador pequeño propone tokens que un modelo más grande verifica en paralelo.