Termin ze słownika AI

Czym jest Kwantyzacja?

Definicja

Konwertowanie wag modeli na formaty o niższej precyzji, takie jak 8-bitowe lub 4-bitowe.

Przejrzyj pełny słownik AIPrzeglądaj wszystkie bezpłatne przewodniki AI

Powiązane terminy

Kwantyzacja modeluZmniejszenie precyzji numerycznej wag modeli w celu zmniejszenia kosztów pamięci i wnioskowania.QLoRATechnika dostrajania, która łączy 4-bitową kwantyzację wagi z adapterami LoRA w celu zmniejszenia zapotrzebowania na pamięć.Propagacja wstecznaPodstawowy algorytm szkoleniowy, który aktualizuje wagi modeli poprzez propagację błędów przewidywań wstecz w sieci.Konwolucyjna sieć neuronowa (CNN)Architektura neuronowa zoptymalizowana pod kątem przetwarzania danych przypominających siatkę, takich jak obrazy.Ekstrakcja cechKonwertowanie surowych danych na funkcje informacyjne, z których może korzystać model.Generatywna AISystemy sztucznej inteligencji, które tworzą nową treść, taką jak tekst, obrazy, dźwięk, wideo lub kod.

Dowiedz się więcej z naszych bezpłatnych przewodników

Residual Vector QuantizationSmoothQuant and Activation QuantizationGPTQ and AWQ Post-Training QuantizationQuantization

Zobacz także

PruningRAG (Retrieval-Augmented Generation)Prompt InjectionRecallPrompt EngineeringRecommendation SystemPromptRed Teaming