What is Distilled Model? Definition | AI Understanding

Tanım

Çıkarımda daha az işlem kullanırken daha büyük bir modelin davranışını taklit etmek üzere eğitilmiş daha küçük bir model.

İlgili terimler

Çıkarım Zamanı Hesaplaması

Her yanıt üretilirken tüketilen işlem gücü miktarı.

Daha büyük bir modelin çıktılarını taklit etmek için daha küçük bir modelin eğitilmesi.

Eğitilmiş bir modelin tahminler veya çıktılar ürettiği çalışma zamanı aşaması.

Boyutu ve hesaplamayı azaltmak için daha az önemli model ağırlıklarının veya nöronların kaldırılması.

Test Süresi Hesaplaması

Kaliteyi veya muhakemeyi geliştirmek için yanıt oluşturma sırasında kullanılan ek çıkarım hesaplaması.

Kullanıma Dayalı Faturalandırma

Maliyetlerin API çağrıları, belirteçler, çıkarım süresi veya tüketilen bilgi işlem ile ölçeklendiği fiyatlandırma.

Ücretsiz kılavuzlarımızdan daha fazlasını öğrenin

AI Models Explained Model Collapse Model Lifecycle Model Context Protocol

See also

Differential Privacy Embedding Model Data Provenance Eval Harness Data Lineage Feature Store Constitutional AI Groundedness

Yapay Zeka Sözlüğünün tamamına göz atın Tüm ücretsiz AI kılavuzlarını keşfedin