Termine del glossario AI

Cos'è Modello distillato?

Definizione

Un modello più piccolo addestrato per imitare il comportamento di un modello più grande utilizzando meno calcolo durante l'inferenza.

Termini correlati

Calcolo del tempo di inferenza
La quantità di potenza di elaborazione consumata durante la produzione di ciascuna risposta.
Distillazione della conoscenza
Addestrare un modello più piccolo per imitare i risultati di un modello più grande.
Inferenza
La fase di runtime in cui un modello addestrato genera previsioni o output.
Potatura
Rimozione di pesi o neuroni del modello meno importanti per ridurre le dimensioni e il calcolo.
Calcolo del tempo di prova
Calcolo di inferenza aggiuntivo utilizzato durante la generazione della risposta per migliorare la qualità o il ragionamento.
Fatturazione basata sull'utilizzo
Prezzi in cui i costi aumentano in base alle chiamate API, ai token, al tempo di inferenza o al calcolo consumato.

Scopri di più nelle nostre guide gratuite

AI Models ExplainedModel CollapseModel LifecycleModel Context Protocol

Vedi anche

Differential PrivacyEmbedding ModelData ProvenanceEval HarnessData LineageFeature StoreConstitutional AIGroundedness
Sfoglia il glossario completo dell'intelligenza artificialeEsplora tutte le guide gratuite sull'intelligenza artificiale