Глоссарий терминов искусственного интеллекта

Что такое Точная настройка с эффективным использованием параметров (PEFT)?

Определение

Методы, которые адаптируют модели путем обучения небольшого подмножества добавленных параметров.

Просмотрите полный глоссарий AIИзучите все бесплатные руководства по искусственному интеллекту

Связанные термины

Точная настройкаПродолжение обучения на предметных данных для адаптации предварительно обученной модели к конкретной задаче.LoRA (Адаптация низкого ранга)Метод точной настройки с эффективным параметром, который добавляет матрицы адаптеров низкого ранга.Пост-тренингЭтапы обучения, применяемые после предварительного обучения, такие как настройка инструкций, оптимизация предпочтений и настройка безопасности.Инструкция по настройкеТочная настройка модели на парах инструкция-ответ для улучшения выполнения задач.Скорость обученияОбучающий гиперпараметр, контролирующий, насколько параметры изменяются на каждом этапе обновления.DPO (прямая оптимизация предпочтений)Метод обучения, который настраивает модели непосредственно на парах предпочтений без необходимости использования отдельной модели вознаграждения.

Узнайте больше в наших бесплатных руководствах.

Fine-TuningHard Parameter Sharing in Multi-Task NetworksGumbel-Softmax and ReparameterizationRejection Sampling Fine-Tuning

См. также

ParameterPerplexityOverfittingPipelineOpen-Source ModelPrecisionOCR (Optical Character Recognition)Pretraining