What is Quantization? Definition | AI Understanding

Визначення

Перетворення ваг моделі у формати з нижчою точністю, такі як 8- або 4-бітні.

Споріднені терміни

Квантування моделі

Зменшення чисельної точності вагових коефіцієнтів моделі для зменшення вартості пам’яті та висновків.

Техніка тонкого налаштування, яка поєднує 4-бітне вагове квантування з адаптерами LoRA для зменшення потреби в пам’яті.

Зворотне поширення

Основний навчальний алгоритм, який оновлює вагові коефіцієнти моделі шляхом передачі помилок передбачення назад через мережу.

Згорточна нейронна мережа (CNN)

Нейронна архітектура, оптимізована для обробки сіткових даних, таких як зображення.

Витяг функцій

Перетворення необроблених даних в інформативні функції, які може використовувати модель.

Генеративний ШІ

Системи штучного інтелекту, які створюють новий вміст, наприклад текст, зображення, аудіо, відео чи код.

Дізнайтеся більше в наших безкоштовних посібниках

Residual Vector Quantization SmoothQuant and Activation Quantization GPTQ and AWQ Post-Training Quantization Quantization

See also

Pruning RAG (Retrieval-Augmented Generation)Prompt Injection Recall Prompt Engineering Recommendation System Prompt Red Teaming

Перегляньте повний Глосарій ШІ Перегляньте всі безкоштовні посібники зі штучного інтелекту