Термин от речника на AI

Какво е Параметрно ефективна фина настройка (PEFT)?

Определение

Методи, които адаптират модели чрез обучение на малък поднабор от добавени параметри.

Свързани термини

Фина настройка
Продължаващо обучение върху специфични за домейн данни за адаптиране на предварително обучен модел към конкретна задача.
LoRA (адаптация от нисък ранг)
Параметрично ефективен метод за фина настройка, който добавя адаптерни матрици с нисък ранг.
След тренировка
Стъпки на обучение, приложени след предварително обучение, като настройка на инструкциите, оптимизиране на предпочитанията и настройка на безопасността.
Инструкция за настройка
Фина настройка на модел на двойки инструкция-отговор, за да се подобри изпълнението на задачата.
Скорост на обучение
Хиперпараметър за обучение, контролиращ колко параметри се променят при всяка стъпка на актуализиране.
DPO (директна оптимизация на предпочитанията)
Метод на обучение, който прецизира моделите директно върху двойки предпочитания, без да е необходим отделен модел на възнаграждение.

Научете повече в нашите безплатни ръководства

See also