Yapay Zeka Sözlüğü Terimi

Niceleme nedir?

Tanım

Model ağırlıklarını 8 bit veya 4 bit gibi daha düşük hassasiyetli formatlara dönüştürme.

Yapay Zeka Sözlüğünün tamamına göz atınTüm ücretsiz AI kılavuzlarını keşfedin

İlgili terimler

Model NicelemeBellek ve çıkarım maliyetini azaltmak için model ağırlıklarının sayısal hassasiyetinin azaltılması.QLoRABellek ihtiyaçlarını azaltmak için 4 bitlik ağırlık nicelemesini LoRA bağdaştırıcılarıyla birleştiren bir ince ayar tekniği.Geri yayılımTahmin hatalarını ağ üzerinden geriye doğru yayarak model ağırlıklarını güncelleyen temel eğitim algoritması.Evrişimli Sinir Ağı (CNN)Görüntüler gibi ızgara benzeri verileri işlemek için optimize edilmiş bir sinir mimarisi.Özellik ÇıkarmaHam verileri bir modelin kullanabileceği bilgilendirici özelliklere dönüştürme.Üretken Yapay ZekaMetin, resim, ses, video veya kod gibi yeni içerikler üreten yapay zeka sistemleri.

Ücretsiz kılavuzlarımızdan daha fazlasını öğrenin

Residual Vector QuantizationSmoothQuant and Activation QuantizationGPTQ and AWQ Post-Training QuantizationQuantization

Ayrıca bakınız

PruningRAG (Retrieval-Augmented Generation)Prompt InjectionRecallPrompt EngineeringRecommendation SystemPromptRed Teaming