What is Quantization? Definition | AI Understanding

Tanım

Model ağırlıklarını 8 bit veya 4 bit gibi daha düşük hassasiyetli formatlara dönüştürme.

İlgili terimler

Bellek ve çıkarım maliyetini azaltmak için model ağırlıklarının sayısal hassasiyetinin azaltılması.

Bellek ihtiyaçlarını azaltmak için 4 bitlik ağırlık nicelemesini LoRA bağdaştırıcılarıyla birleştiren bir ince ayar tekniği.

Tahmin hatalarını ağ üzerinden geriye doğru yayarak model ağırlıklarını güncelleyen temel eğitim algoritması.

Evrişimli Sinir Ağı (CNN)

Görüntüler gibi ızgara benzeri verileri işlemek için optimize edilmiş bir sinir mimarisi.

Özellik Çıkarma

Ham verileri bir modelin kullanabileceği bilgilendirici özelliklere dönüştürme.

Üretken Yapay Zeka

Metin, resim, ses, video veya kod gibi yeni içerikler üreten yapay zeka sistemleri.

Ücretsiz kılavuzlarımızdan daha fazlasını öğrenin

Residual Vector Quantization SmoothQuant and Activation Quantization GPTQ and AWQ Post-Training Quantization Quantization

See also

Pruning RAG (Retrieval-Augmented Generation)Prompt Injection Recall Prompt Engineering Recommendation System Prompt Red Teaming

Yapay Zeka Sözlüğünün tamamına göz atın Tüm ücretsiz AI kılavuzlarını keşfedin