Термин от речника на AI

Какво е Параметрно ефективна фина настройка (PEFT)?

Определение

Методи, които адаптират модели чрез обучение на малък поднабор от добавени параметри.

Разгледайте пълния AI речникРазгледайте всички безплатни ръководства за AI

Свързани термини

Фина настройкаПродължаващо обучение върху специфични за домейн данни за адаптиране на предварително обучен модел към конкретна задача.LoRA (адаптация от нисък ранг)Параметрично ефективен метод за фина настройка, който добавя адаптерни матрици с нисък ранг.След тренировкаСтъпки на обучение, приложени след предварително обучение, като настройка на инструкциите, оптимизиране на предпочитанията и настройка на безопасността.Инструкция за настройкаФина настройка на модел на двойки инструкция-отговор, за да се подобри изпълнението на задачата.Скорост на обучениеХиперпараметър за обучение, контролиращ колко параметри се променят при всяка стъпка на актуализиране.DPO (директна оптимизация на предпочитанията)Метод на обучение, който прецизира моделите директно върху двойки предпочитания, без да е необходим отделен модел на възнаграждение.

Научете повече в нашите безплатни ръководства

Fine-TuningHard Parameter Sharing in Multi-Task NetworksGumbel-Softmax and ReparameterizationRejection Sampling Fine-Tuning

Вижте също

ParameterPerplexityOverfittingPipelineOpen-Source ModelPrecisionOCR (Optical Character Recognition)Pretraining