What is Quantization? Definition | AI Understanding

Определение

Преобразуване на теглата на модела във формати с по-ниска точност, като 8-битов или 4-битов.

Свързани термини

Моделно квантуване

Намаляване на числената точност на теглата на модела, за да се намалят разходите за памет и изводи.

Техника за фина настройка, която комбинира 4-битово квантуване на теглото с LoRA адаптери за намаляване на нуждите от памет.

Обратно разпространение

Основният алгоритъм за обучение, който актуализира теглата на модела чрез разпространение на грешките при прогнозиране назад през мрежата.

Конволюционна невронна мрежа (CNN)

Невронна архитектура, оптимизирана за обработка на мрежови данни, като изображения.

Извличане на функции

Преобразуване на необработени данни в информативни функции, които моделът може да използва.

Генеративен ИИ

AI системи, които произвеждат ново съдържание като текст, изображения, аудио, видео или код.

Научете повече в нашите безплатни ръководства

Residual Vector Quantization SmoothQuant and Activation Quantization GPTQ and AWQ Post-Training Quantization Quantization

See also

Pruning RAG (Retrieval-Augmented Generation)Prompt Injection Recall Prompt Engineering Recommendation System Prompt Red Teaming

Разгледайте пълния AI речник Разгледайте всички безплатни ръководства за AI