Término del glosario de IA

¿Qué es Ajuste fino eficiente de parámetros (PEFT)?

Definición

Métodos que adaptan modelos entrenando un pequeño subconjunto de parámetros agregados.

Explore el glosario completo de IAExplora todas las guías gratuitas de IA

Términos relacionados

Ajuste finoCapacitación continua sobre datos de dominios específicos para adaptar un modelo previamente entrenado a una tarea específica.LoRA (adaptación de bajo rango)Un método de ajuste fino eficiente en parámetros que agrega matrices de adaptadores de bajo rango.Post-entrenamientoPasos de capacitación aplicados después del entrenamiento previo, como ajuste de instrucciones, optimización de preferencias y ajuste de seguridad.Ajuste de instruccionesAjustar un modelo sobre pares instrucción-respuesta para mejorar el seguimiento de tareas.Tasa de aprendizajeUn hiperparámetro de entrenamiento que controla cuánto cambian los parámetros en cada paso de actualización.DPO (optimización de preferencias directas)Un método de entrenamiento que afina los modelos directamente en pares de preferencias sin necesidad de un modelo de recompensa separado.

Obtenga más información en nuestras guías gratuitas.

Fine-TuningHard Parameter Sharing in Multi-Task NetworksGumbel-Softmax and ReparameterizationRejection Sampling Fine-Tuning

Véase también

ParameterPerplexityOverfittingPipelineOpen-Source ModelPrecisionOCR (Optical Character Recognition)Pretraining