Termine del glossario AI

Cos'è Fatturazione basata sull'utilizzo?

Definizione

Prezzi in cui i costi aumentano in base alle chiamate API, ai token, al tempo di inferenza o al calcolo consumato.

Termini correlati

Calcolo del tempo di inferenza
La quantità di potenza di elaborazione consumata durante la produzione di ciascuna risposta.
Calcolo del tempo di prova
Calcolo di inferenza aggiuntivo utilizzato durante la generazione della risposta per migliorare la qualità o il ragionamento.
Decodifica speculativa
Un metodo di accelerazione dell'inferenza in cui una piccola bozza di modello propone token che un modello più grande verifica in parallelo.
Attenzione alla finestra scorrevole
Un modello di attenzione in cui ogni token si occupa solo di una finestra di dimensione fissa di token vicini per ridurre il calcolo.
Inferenza
La fase di runtime in cui un modello addestrato genera previsioni o output.
RAG (generazione aumentata di recupero)
Un metodo che recupera la conoscenza esterna e la alimenta nella generazione al momento dell'inferenza.

Scopri di più nelle nostre guide gratuite

Entropy-Based SamplingEnergy-Based ModelsScore-Based Generative ModelsWaveGlow Flow-Based Vocoder

Vedi anche

Trust CalibrationZero Data RetentionStructured OutputKV CacheShadow DeploymentMCP (Model Context Protocol)Safety CaseAgentic Loop
Sfoglia il glossario completo dell'intelligenza artificialeEsplora tutte le guide gratuite sull'intelligenza artificiale