What is Quantization? Definition | AI Understanding

Meghatározás

Modellsúlyok konvertálása kisebb pontosságú formátumokká, például 8 bites vagy 4 bites.

Kapcsolódó kifejezések

Modell kvantálás

A modellsúlyok numerikus pontosságának csökkentése a memória és a következtetési költségek csökkentése érdekében.

Finomhangoló technika, amely a 4 bites súlykvantálást LoRA adapterekkel kombinálja a memóriaigény csökkentése érdekében.

Visszaszaporítás

Az alapvető betanítási algoritmus, amely frissíti a modell súlyait az előrejelzési hibáknak a hálózaton keresztül történő visszafelé terjesztésével.

Konvolúciós Neurális Hálózat (CNN)

Rácsszerű adatok, például képek feldolgozására optimalizált neurális architektúra.

Funkció kivonás

Nyers adatok konvertálása olyan informatív funkciókká, amelyeket egy modell használhat.

AI rendszerek, amelyek új tartalmat, például szöveget, képeket, hangot, videót vagy kódot állítanak elő.

Tudjon meg többet ingyenes útmutatóinkból

Residual Vector Quantization SmoothQuant and Activation Quantization GPTQ and AWQ Post-Training Quantization Quantization

See also

Pruning RAG (Retrieval-Augmented Generation)Prompt Injection Recall Prompt Engineering Recommendation System Prompt Red Teaming

Böngésszen a teljes AI szószedetben Fedezze fel az összes ingyenes AI-útmutatót