What is Quantization? Definition | AI Understanding

Definisi

Menukar pemberat model kepada format ketepatan yang lebih rendah seperti 8-bit atau 4-bit.

Istilah berkaitan

Mengurangkan ketepatan berangka berat model untuk mengurangkan kos ingatan dan inferens.

Teknik penalaan halus yang menggabungkan pengkuantitian berat 4-bit dengan penyesuai LoRA untuk mengurangkan keperluan memori.

Penyebaran balik

Algoritma latihan teras yang mengemas kini berat model dengan menyebarkan ralat ramalan ke belakang melalui rangkaian.

Rangkaian Neural Convolutional (CNN)

Seni bina saraf yang dioptimumkan untuk memproses data seperti grid seperti imej.

Pengekstrakan Ciri

Menukar data mentah kepada ciri bermaklumat yang boleh digunakan oleh model.

Sistem AI yang menghasilkan kandungan baharu seperti teks, imej, audio, video atau kod.

Ketahui lebih lanjut dalam panduan percuma kami

Residual Vector Quantization SmoothQuant and Activation Quantization GPTQ and AWQ Post-Training Quantization Quantization

See also

Pruning RAG (Retrieval-Augmented Generation)Prompt Injection Recall Prompt Engineering Recommendation System Prompt Red Teaming

Semak imbas Glosari AI penuh Terokai semua panduan AI percuma