Термин от речника на AI

Какво е Моделно квантуване?

Определение

Намаляване на числената точност на теглата на модела, за да се намалят разходите за памет и изводи.

Разгледайте пълния AI речникРазгледайте всички безплатни ръководства за AI

Свързани термини

КвантуванеПреобразуване на теглата на модела във формати с по-ниска точност, като 8-битов или 4-битов.QLoRAТехника за фина настройка, която комбинира 4-битово квантуване на теглото с LoRA адаптери за намаляване на нуждите от памет.Светкавично вниманиеОптимизиран алгоритъм за внимание, който намалява използването на паметта и ускорява обучението на трансформатора и изводите.Памет (памет на агент)Съхраненият контекст, който AI агент използва през стъпките или сесиите, за да подобри непрекъснатостта.AI агентСофтуерна система, която може да наблюдава, разсъждава и предприема действия за постигане на цел, често използвайки инструменти и памет.AI БезопасностОбласт, фокусирана върху намаляването на вредното поведение, отказите и рисковете от злоупотреба в системите с изкуствен интелект.

Научете повече в нашите безплатни ръководства

AI Models ExplainedModel CollapseModel LifecycleModel Context Protocol

Вижте също

Model DriftMultimodal ModelModel CardNamed Entity Recognition (NER)Mixture of Experts (MoE)Natural Language Processing (NLP)Neural NetworkMachine Learning (ML)