What is Quantization? Definition | AI Understanding

Definicja

Konwertowanie wag modeli na formaty o niższej precyzji, takie jak 8-bitowe lub 4-bitowe.

Powiązane terminy

Kwantyzacja modelu

Zmniejszenie precyzji numerycznej wag modeli w celu zmniejszenia kosztów pamięci i wnioskowania.

Technika dostrajania, która łączy 4-bitową kwantyzację wagi z adapterami LoRA w celu zmniejszenia zapotrzebowania na pamięć.

Propagacja wsteczna

Podstawowy algorytm szkoleniowy, który aktualizuje wagi modeli poprzez propagację błędów przewidywań wstecz w sieci.

Konwolucyjna sieć neuronowa (CNN)

Architektura neuronowa zoptymalizowana pod kątem przetwarzania danych przypominających siatkę, takich jak obrazy.

Ekstrakcja cech

Konwertowanie surowych danych na funkcje informacyjne, z których może korzystać model.

Systemy sztucznej inteligencji, które tworzą nową treść, taką jak tekst, obrazy, dźwięk, wideo lub kod.

Dowiedz się więcej z naszych bezpłatnych przewodników

Residual Vector Quantization SmoothQuant and Activation Quantization GPTQ and AWQ Post-Training Quantization Quantization

Zobacz także

Pruning RAG (Retrieval-Augmented Generation)Prompt Injection Recall Prompt Engineering Recommendation System Prompt Red Teaming

Przejrzyj pełny słownik AI Przeglądaj wszystkie bezpłatne przewodniki AI