Istilah Glosarium AI

Apa itu Pra-pelatihan?

Definisi

Pelatihan model skala besar awal mengenai data luas sebelum adaptasi hilir.

Jelajahi Glosarium AI selengkapnyaJelajahi semua panduan AI gratis

Istilah terkait

Pasca pelatihanLangkah-langkah pelatihan diterapkan setelah pra-pelatihan, seperti penyetelan instruksi, optimalisasi preferensi, dan penyetelan keselamatan.Data BesarKumpulan data yang sangat besar dan kompleks yang memerlukan penyimpanan dan teknik pemrosesan yang dapat diskalakan.Pembelajaran BerkelanjutanPendekatan pelatihan yang memungkinkan model terus belajar dari data baru tanpa melupakan pengetahuan sebelumnya.Augmentasi DataTeknik yang membuat contoh pelatihan yang dimodifikasi untuk meningkatkan generalisasi model.PenyempurnaanMelanjutkan pelatihan pada data spesifik domain untuk mengadaptasi model yang telah dilatih sebelumnya ke tugas tertentu.Model FondasiModel besar yang telah dilatih sebelumnya dan dapat disesuaikan dengan banyak tugas hilir.

Pelajari lebih lanjut di panduan gratis kami

ELECTRA PretrainingContinued Pretraining vs Fine-TuningCLAP: Contrastive Language-Audio Pretraining

Lihat juga

PrecisionPromptPipelinePrompt EngineeringPerplexityPrompt InjectionParameter-Efficient Fine-Tuning (PEFT)Pruning