Глоссарий терминов искусственного интеллекта

Что такое Квантование?

Определение

Преобразование весов модели в форматы более низкой точности, например 8-битные или 4-битные.

Просмотрите полный глоссарий AIИзучите все бесплатные руководства по искусственному интеллекту

Связанные термины

Квантование моделиСнижение числовой точности весов модели для уменьшения затрат на память и логические выводы.QLoRAМетод тонкой настройки, сочетающий 4-битное весовое квантование с адаптерами LoRA для уменьшения потребности в памяти.Обратное распространение ошибкиОсновной алгоритм обучения, который обновляет веса модели путем распространения ошибок прогнозирования обратно по сети.Сверточная нейронная сеть (CNN)Нейронная архитектура, оптимизированная для обработки данных в виде сетки, таких как изображения.Извлечение функцийПреобразование необработанных данных в информативные функции, которые может использовать модель.Генеративный ИИСистемы искусственного интеллекта, которые создают новый контент, такой как текст, изображения, аудио, видео или код.

Узнайте больше в наших бесплатных руководствах.

Residual Vector QuantizationSmoothQuant and Activation QuantizationGPTQ and AWQ Post-Training QuantizationQuantization

См. также

PruningRAG (Retrieval-Augmented Generation)Prompt InjectionRecallPrompt EngineeringRecommendation SystemPromptRed Teaming