Término del glosario de IA

¿Qué es Preentrenamiento?

Definición

Entrenamiento inicial de modelos a gran escala sobre datos amplios antes de la adaptación posterior.

Explore el glosario completo de IAExplora todas las guías gratuitas de IA

Términos relacionados

Post-entrenamientoPasos de capacitación aplicados después del entrenamiento previo, como ajuste de instrucciones, optimización de preferencias y ajuste de seguridad.Grandes datosConjuntos de datos muy grandes y complejos que requieren técnicas de procesamiento y almacenamiento escalables.Aprendizaje continuoEnfoques de entrenamiento que permiten que un modelo siga aprendiendo de nuevos datos sin olvidar el conocimiento previo.Aumento de datosTécnicas que crean ejemplos de entrenamiento modificados para mejorar la generalización del modelo.Ajuste finoCapacitación continua sobre datos de dominios específicos para adaptar un modelo previamente entrenado a una tarea específica.Modelo de cimentaciónUn gran modelo previamente entrenado que se puede adaptar a muchas tareas posteriores.

Obtenga más información en nuestras guías gratuitas.

ELECTRA PretrainingContinued Pretraining vs Fine-TuningCLAP: Contrastive Language-Audio Pretraining

Véase también

PrecisionPromptPipelinePrompt EngineeringPerplexityPrompt InjectionParameter-Efficient Fine-Tuning (PEFT)Pruning