Terme du glossaire IA

Qu’est-ce que Pré-formation ?

Définition

Formation initiale de modèles à grande échelle sur des données larges avant adaptation en aval.

Parcourez le glossaire complet de l'IAExplorez tous les guides gratuits sur l'IA

Termes associés

Post-formationÉtapes de formation appliquées après la pré-formation, telles que le réglage des instructions, l'optimisation des préférences et le réglage de la sécurité.MégadonnéesEnsembles de données très volumineux et complexes qui nécessitent des techniques de stockage et de traitement évolutives.Apprentissage continuDes approches de formation qui permettent à un modèle de continuer à apprendre de nouvelles données sans oublier les connaissances antérieures.Augmentation des donnéesTechniques qui créent des exemples de formation modifiés pour améliorer la généralisation du modèle.Mise au pointFormation continue sur des données spécifiques au domaine pour adapter un modèle pré-entraîné à une tâche spécifique.Modèle de fondationUn grand modèle pré-entraîné qui peut être adapté à de nombreuses tâches en aval.

Apprenez-en davantage dans nos guides gratuits

ELECTRA PretrainingContinued Pretraining vs Fine-TuningCLAP: Contrastive Language-Audio Pretraining

Voir aussi

PrecisionPromptPipelinePrompt EngineeringPerplexityPrompt InjectionParameter-Efficient Fine-Tuning (PEFT)Pruning