Обучение Новини Инструм.Работни места Мисия

Термин от речника на AI

Какво е Квантуване?

Определение

Преобразуване на теглата на модела във формати с по-ниска точност, като 8-битов или 4-битов.

Разгледайте пълния AI речник Разгледайте всички безплатни ръководства за AI

Моделно квантуванеНамаляване на числената точност на теглата на модела, за да се намалят разходите за памет и изводи.QLoRAТехника за фина настройка, която комбинира 4-битово квантуване на теглото с LoRA адаптери за намаляване на нуждите от памет.Обратно разпространениеОсновният алгоритъм за обучение, който актуализира теглата на модела чрез разпространение на грешките при прогнозиране назад през мрежата.Конволюционна невронна мрежа (CNN)Невронна архитектура, оптимизирана за обработка на мрежови данни, като изображения.Извличане на функцииПреобразуване на необработени данни в информативни функции, които моделът може да използва.Генеративен ИИAI системи, които произвеждат ново съдържание като текст, изображения, аудио, видео или код.

Научете повече в нашите безплатни ръководства

Residual Vector Quantization SmoothQuant and Activation Quantization GPTQ and AWQ Post-Training Quantization Quantization

Вижте също

Pruning RAG (Retrieval-Augmented Generation)Prompt Injection Recall Prompt Engineering Recommendation System Prompt Red Teaming