Термін глосарію AI

Що таке Квантування моделі?

Визначення

Зменшення чисельної точності вагових коефіцієнтів моделі для зменшення вартості пам’яті та висновків.

Перегляньте повний Глосарій ШІПерегляньте всі безкоштовні посібники зі штучного інтелекту

Споріднені терміни

КвантуванняПеретворення ваг моделі у формати з нижчою точністю, такі як 8- або 4-бітні.QLoRAТехніка тонкого налаштування, яка поєднує 4-бітне вагове квантування з адаптерами LoRA для зменшення потреби в пам’яті.Спалах увагиОптимізований алгоритм концентрації уваги, який зменшує використання пам’яті та прискорює навчання трансформатора та логічні висновки.Пам'ять (Пам'ять агента)Збережений контекст агент штучного інтелекту використовує на етапах або сеансах для покращення безперервності.ШІ агентПрограмна система, яка може спостерігати, міркувати та виконувати дії для досягнення мети, часто використовуючи інструменти та пам’ять.ШІ БезпекаОбласть, зосереджена на зниженні шкідливої ​​поведінки, збоїв і ризиків неправильного використання в системах ШІ.

Дізнайтеся більше в наших безкоштовних посібниках

AI Models ExplainedModel CollapseModel LifecycleModel Context Protocol

Дивіться також

Model DriftMultimodal ModelModel CardNamed Entity Recognition (NER)Mixture of Experts (MoE)Natural Language Processing (NLP)Neural NetworkMachine Learning (ML)