Belajar Berita Alat Pekerjaan Misi

Istilah Glosari AI

Apakah Kuantisasi?

Definisi

Menukar pemberat model kepada format ketepatan yang lebih rendah seperti 8-bit atau 4-bit.

Semak imbas Glosari AI penuh Terokai semua panduan AI percuma

Kuantiti ModelMengurangkan ketepatan berangka berat model untuk mengurangkan kos ingatan dan inferens.QLoRATeknik penalaan halus yang menggabungkan pengkuantitian berat 4-bit dengan penyesuai LoRA untuk mengurangkan keperluan memori.Penyebaran balikAlgoritma latihan teras yang mengemas kini berat model dengan menyebarkan ralat ramalan ke belakang melalui rangkaian.Rangkaian Neural Convolutional (CNN)Seni bina saraf yang dioptimumkan untuk memproses data seperti grid seperti imej.Pengekstrakan CiriMenukar data mentah kepada ciri bermaklumat yang boleh digunakan oleh model.AI GeneratifSistem AI yang menghasilkan kandungan baharu seperti teks, imej, audio, video atau kod.

Ketahui lebih lanjut dalam panduan percuma kami

Residual Vector Quantization SmoothQuant and Activation Quantization GPTQ and AWQ Post-Training Quantization Quantization

Lihat juga

Pruning RAG (Retrieval-Augmented Generation)Prompt Injection Recall Prompt Engineering Recommendation System Prompt Red Teaming