Термин от речника на AI

Какво е LoRA (адаптация от нисък ранг)?

Определение

Параметрично ефективен метод за фина настройка, който добавя адаптерни матрици с нисък ранг.

Разгледайте пълния AI речникРазгледайте всички безплатни ръководства за AI

Свързани термини

Параметрно ефективна фина настройка (PEFT)Методи, които адаптират модели чрез обучение на малък поднабор от добавени параметри.QLoRAТехника за фина настройка, която комбинира 4-битово квантуване на теглото с LoRA адаптери за намаляване на нуждите от памет.Фина настройкаПродължаващо обучение върху специфични за домейн данни за адаптиране на предварително обучен модел към конкретна задача.Инструкция за настройкаФина настройка на модел на двойки инструкция-отговор, за да се подобри изпълнението на задачата.DPO (директна оптимизация на предпочитанията)Метод на обучение, който прецизира моделите директно върху двойки предпочитания, без да е необходим отделен модел на възнаграждение.Изглаждане на етикетиМетод за регулиране, който омекотява твърдите етикети, за да подобри обобщението.

Научете повече в нашите безплатни ръководства

AI Workflow AutomationBarlow Twins and Redundancy ReductionDomain AdaptationKubeflow and ML Pipeline Orchestration

Вижте също

Learning RateLoss FunctionLarge Language Model (LLM)Machine Learning (ML)LatencyMemory (Agent Memory)Mixture of Experts (MoE)Knowledge Graph