What is Quantization? Definition | AI Understanding

Определение

Преобразование весов модели в форматы более низкой точности, например 8-битные или 4-битные.

Связанные термины

Квантование модели

Снижение числовой точности весов модели для уменьшения затрат на память и логические выводы.

Метод тонкой настройки, сочетающий 4-битное весовое квантование с адаптерами LoRA для уменьшения потребности в памяти.

Обратное распространение ошибки

Основной алгоритм обучения, который обновляет веса модели путем распространения ошибок прогнозирования обратно по сети.

Сверточная нейронная сеть (CNN)

Нейронная архитектура, оптимизированная для обработки данных в виде сетки, таких как изображения.

Извлечение функций

Преобразование необработанных данных в информативные функции, которые может использовать модель.

Генеративный ИИ

Системы искусственного интеллекта, которые создают новый контент, такой как текст, изображения, аудио, видео или код.

Узнайте больше в наших бесплатных руководствах.

Residual Vector Quantization SmoothQuant and Activation Quantization GPTQ and AWQ Post-Training Quantization Quantization

См. также

Pruning RAG (Retrieval-Augmented Generation)Prompt Injection Recall Prompt Engineering Recommendation System Prompt Red Teaming

Просмотрите полный глоссарий AI Изучите все бесплатные руководства по искусственному интеллекту