Co je destilovaný model? Definice | AI Understanding

Definice

Menší model trénovaný tak, aby napodoboval chování většího modelu při použití méně výpočtů při odvození.

Související pojmy

Výpočet inferenčního času

Množství výpočetního výkonu spotřebovaného při vytváření každé odpovědi.

Destilace znalostí

Trénink menšího modelu, aby napodobil výstupy většího modelu.

Fáze běhu, kdy trénovaný model generuje předpovědi nebo výstupy.

Prořezávání

Odstranění méně důležitých závaží modelu nebo neuronů pro snížení velikosti a výpočtu.

Výpočet testovacího času

Další inferenční výpočet používaný během generování odezvy ke zlepšení kvality nebo uvažování.

Fakturace podle použití

Ceny, kde se náklady škálují pomocí volání API, tokenů, doby odvození nebo spotřebovaného výpočtu.

Více se dozvíte v našich bezplatných průvodcích

AI Models Explained Model Collapse Model Lifecycle Model Context Protocol

Viz také

Differential Privacy Embedding Model Data Provenance Eval Harness Data Lineage Feature Store Constitutional AI Groundedness

Projděte si celý glosář AI Prozkoumejte všechny bezplatné průvodce AI