Термін глосарію AI

Що таке LoRA (адаптація низького рангу)?

Визначення

Ефективний метод тонкого налаштування параметрів, який додає низькорангові матриці адаптерів.

Перегляньте повний Глосарій ШІПерегляньте всі безкоштовні посібники зі штучного інтелекту

Споріднені терміни

Параметричне точне налаштування (PEFT)Методи, які адаптують моделі шляхом навчання невеликої підмножини доданих параметрів.QLoRAТехніка тонкого налаштування, яка поєднує 4-бітне вагове квантування з адаптерами LoRA для зменшення потреби в пам’яті.Точне налаштуванняПостійне навчання на предметних даних для адаптації попередньо навченої моделі до конкретного завдання.Інструкція НалаштуванняТочне налаштування моделі на парах інструкція-відповідь для покращення виконання завдань.DPO (пряма оптимізація переваг)Метод навчання, який точно налаштовує моделі безпосередньо на пари переваг без необхідності окремої моделі винагороди.Згладжування мітокМетод регулярізації, який пом’якшує жорсткі мітки для покращення узагальнення.

Дізнайтеся більше в наших безкоштовних посібниках

AI Workflow AutomationBarlow Twins and Redundancy ReductionDomain AdaptationKubeflow and ML Pipeline Orchestration

Дивіться також

Learning RateLoss FunctionLarge Language Model (LLM)Machine Learning (ML)LatencyMemory (Agent Memory)Mixture of Experts (MoE)Knowledge Graph