Término del glosario de IA

¿Qué es LoRA (adaptación de bajo rango)?

Definición

Un método de ajuste fino eficiente en parámetros que agrega matrices de adaptadores de bajo rango.

Explore el glosario completo de IAExplora todas las guías gratuitas de IA

Términos relacionados

Ajuste fino eficiente de parámetros (PEFT)Métodos que adaptan modelos entrenando un pequeño subconjunto de parámetros agregados.QLoRAUna técnica de ajuste que combina la cuantificación de peso de 4 bits con adaptadores LoRA para reducir las necesidades de memoria.Ajuste finoCapacitación continua sobre datos de dominios específicos para adaptar un modelo previamente entrenado a una tarea específica.Ajuste de instruccionesAjustar un modelo sobre pares instrucción-respuesta para mejorar el seguimiento de tareas.DPO (optimización de preferencias directas)Un método de entrenamiento que afina los modelos directamente en pares de preferencias sin necesidad de un modelo de recompensa separado.Suavizado de etiquetasUn método de regularización que suaviza las etiquetas duras para mejorar la generalización.

Obtenga más información en nuestras guías gratuitas.

AI Workflow AutomationBarlow Twins and Redundancy ReductionDomain AdaptationKubeflow and ML Pipeline Orchestration

Véase también

Learning RateLoss FunctionLarge Language Model (LLM)Machine Learning (ML)LatencyMemory (Agent Memory)Mixture of Experts (MoE)Knowledge Graph